Meta, la société mère d’Instagram, a récemment annoncé une série de nouvelles mesures visant à renforcer la sécurité des jeunes en ligne, cette fois en se concentrant sur la problématique de la nudité. Instagram mettra en place un « contrôleur de nudité » qui sera activé par défaut sur les comptes des mineurs. Cette fonctionnalité automatique floutera les images contenant de la nudité, offrant ainsi une protection supplémentaire contre l’exposition à du contenu inapproprié.
Cette initiative intervient dans un contexte où Instagram a été fréquemment critiqué pour son potentiel impact sur la santé mentale des jeunes. En réponse à ces préoccupations croissantes, Meta déploie des efforts pour garantir un environnement en ligne plus sécurisé et bienveillant pour ses utilisateurs les plus vulnérables.
Outre le floutage automatique des images, Meta va sensibiliser les utilisateurs à la « sextorsion » en envoyant des messages d’avertissement aux émetteurs et destinataires des photos potentiellement problématiques. Ces messages rappellent les règles et mettent en garde contre les conséquences néfastes de la circulation de ce type de contenu.
De plus, Instagram utilisera l’intelligence artificielle pour mieux identifier les comptes impliqués dans des activités de chantage en ligne, ce qui devrait être une protection supplémentaire mais ne dispense en rien d’un contrôle de la part des parents.
Meta mise tout sur la restriction et la pédagogie algorithmique..
En cas de détection d’un comportement suspect, les mesures de restriction seront appliquées au compte incriminé, limitant ainsi ses interactions avec les mineurs sur la plateforme. Ces restrictions comprennent l’impossibilité d’envoyer des messages privés à des comptes de mineurs, la non-visualisation de leur liste d’abonnés, et l’exclusion des comptes de mineurs de la barre de recherche.
En outre, Meta s’engage à fournir aux jeunes victimes de sextorsion des ressources et un soutien appropriés. Les mineurs qui ont interagi avec des comptes signalés seront dirigés vers des sites spécialisés pour mettre fin au chantage en ligne, et auront également accès à une ligne d’écoute fournie par des associations partenaires.
Un déploiement progressif pour s’adapter à un besoin sociétal de plus en plus fort
Cette série de mesures sera initialement déployée en mai dans certains pays d’Amérique centrale et du Sud, avant d’être étendue à l’échelle mondiale dans les mois suivants.
Bien que ces mesures semblent offrir une protection supplémentaire aux utilisateurs, elles ne peuvent remplacer le rôle crucial des parents dans le contrôle et la supervision des activités en ligne de leurs enfants. Confier cette responsabilité à des algorithmes et à des systèmes automatisés ne garantit pas une approche nuancée et adaptée aux situations individuelles.
Il est donc essentiel que les efforts de sensibilisation et de prévention soient accompagnés d’une éducation continue sur les dangers en ligne et les comportements sécuritaires.
Meta doit reconnaître que la protection des jeunes en ligne nécessite un partenariat étroit entre les plateformes technologiques, les parents et les éducateurs pour créer un environnement numérique sûr et responsable pour tous.