Le Conseil de Surveillance, entité indépendante financée par Meta, se penche sur la gestion par l’entreprise de deux images sexuellement explicites de célébrités féminines, générées par l’intelligence artificielle, qui ont circulé sur ses plateformes Facebook et Instagram.
Ces exemples serviront à évaluer l’efficacité globale des politiques et des pratiques d’application de Meta concernant les contenus manipulés par l’IA, a annoncé le Conseil dans un communiqué.
Sans divulguer les noms des personnalités impliquées pour éviter d’étendre le préjudice, le Conseil a fourni des descriptions détaillées des images concernées. Ces images, indiscernables du contenu réel créé par l’homme grâce aux progrès de l’IA, alimentent la prolifération de faux sexuels en ligne, principalement dirigés contre des femmes et des filles.
Dans une affaire récente, la plateforme de médias sociaux X d’Elon Musk a temporairement interdit aux utilisateurs de rechercher des images de Taylor Swift, après avoir lutté pour contenir la diffusion de fausses images explicites d’elle.
Face à ces défis, certains leaders de l’industrie appellent à une législation pour criminaliser la création de « faux profonds » nuisibles et pour obliger les entreprises technologiques à prévenir de telles utilisations de leurs produits.
Parmi les cas examinés par le Conseil de Surveillance, l’un concerne une image générée par l’IA d’une femme nue, ressemblant à une personnalité publique indienne, partagée sur Instagram. L’autre, apparu dans un groupe Facebook dédié aux créations d’IA, présente une représentation générée par l’IA d’une femme nue accompagnée d’un homme, ressemblant à « une figure publique américaine ».
Bien que Meta ait supprimé l’image impliquant la personnalité américaine concernée pour violation de sa politique contre l’intimidation et le harcèlement, la gestion de l’image impliquant la femme indienne a été initialement différente, jusqu’à ce que le Conseil d’Administration intervienne pour l’examiner.
Meta a reconnu ces cas et s’est engagé à suivre les décisions du Conseil de Surveillance, soulignant ainsi l’importance de ces organes indépendants dans le processus de gouvernance des contenus en ligne.
