Le comité de surveillance des méta examine le traitement du porno de célébrités créé par l'IA

information fournie par Reuters •16/04/2024 à 12:00

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Katie Paul

Le comité de surveillance de Meta Platforms META.O examine le traitement par la société de deux images sexuellement explicites de célébrités féminines générées par l'intelligence artificielle qui ont circulé sur ses services Facebook et Instagram, a déclaré le comité mardi.

Le conseil, qui est financé par le géant des médias sociaux mais fonctionne indépendamment de lui, utilisera ces deux exemples pour évaluer l'efficacité globale des politiques et des pratiques de Meta en matière de fausses images pornographiques créées à l'aide de l'intelligence artificielle, a indiqué le conseil dans un billet de blog.

Il a fourni des descriptions des images en question, mais n'a pas nommé les femmes célèbres qui y sont représentées, afin de "prévenir tout préjudice supplémentaire", a déclaré un porte-parole du conseil d'administration.

Les progrès de la technologie de l'intelligence artificielle ont permis de fabriquer des images, des clips audio et des vidéos qu'il est pratiquement impossible de distinguer d'un véritable contenu créé par un être humain, ce qui a entraîné la prolifération en ligne d'images sexuelles falsifiées, représentant principalement des femmes et des jeunes filles.

Au début de l'année, la plateforme de médias sociaux X, propriété d'Elon Musk, a brièvement empêché les utilisateurs de rechercher toutes les images de la pop star américaine Taylor Swift sur le site , après avoir lutté contre la diffusion de fausses images explicites de la chanteuse.

Certains dirigeants de l'industrie ont demandé que la législation criminalise la création de "deep fakes" nuisibles et exige que les entreprises technologiques empêchent de telles utilisations de leurs produits.

Selon les descriptions du Conseil de surveillance, l'un des cas concerne une image générée par l'IA d'une femme nue ressemblant à une personnalité publique indienne, postée par un compte Instagram qui ne partage que des images de femmes indiennes générées par l'IA.

L'autre image, selon le conseil, est apparue dans un groupe Facebook de partage de créations d'IA et présente une représentation générée par l'IA d'une femme nue ressemblant à "une personnalité publique américaine" avec un homme lui tripotant les seins.

Meta a supprimé l'image représentant la femme américaine pour violation de sa politique en matière d'intimidation et de harcèlement, qui interdit les "photoshops ou dessins sexualisés désobligeants", mais a initialement laissé en place l'image représentant la femme indienne et n'est revenu sur sa décision qu'après que le conseil d'administration l'a sélectionnée pour examen.

Dans un autre message, Meta a reconnu les faits et s'est engagé à mettre en œuvre les décisions du conseil d'administration.