Le comité de surveillance de Meta, qui examine la vidéo de Biden, estime que la règle du deepfake est "incohérente"

information fournie par Reuters •05/02/2024 à 12:04

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Katie Paul

Le comité de surveillance de Meta META.O a estimé qu'une vidéo Facebook suggérant à tort que le président américain Joe Biden est un pédophile n'enfreignait pas les règles actuelles de l'entreprise, tout en jugeant ces règles "incohérentes" et trop étroitement axées sur le contenu généré par l'IA.

Le conseil, qui est financé par Meta mais géré de manière indépendante, s'est saisi de l'affaire de la vidéo de Joe Biden en octobre, en réponse à une plainte d'un utilisateur concernant une vidéo modifiée de sept secondes du président publiée sur le réseau social phare de Meta.

La décision rendue lundi est la première à critiquer la politique de "médias manipulés" de Meta, qui interdit certains types de vidéos éditées de manière trompeuse, dans un contexte d'inquiétude croissante quant à l'utilisation potentielle des nouvelles technologies d'intelligence artificielle pour influencer les élections cette année.

La politique "manque de justification convaincante, est incohérente et déroutante pour les utilisateurs, et ne précise pas clairement les préjudices qu'elle cherche à prévenir", a déclaré le conseil d'administration.

Il a suggéré que la Meta mette à jour la règle pour couvrir les contenus audio et vidéo, indépendamment de l'utilisation de l'IA, et pour appliquer des étiquettes les identifiant comme manipulés.

Le conseil n'a pas demandé que la politique s'applique aux photographies, car cela pourrait rendre la politique trop difficile à appliquer à l'échelle de Meta.

Meta, qui possède également Instagram et WhatsApp, a informé la commission au cours de l'examen qu'elle prévoyait de mettre à jour la politique "pour répondre à l'évolution de l'IA nouvelle et de plus en plus réaliste", selon la décision.

Le clip diffusé sur Facebook manipulait des images réelles de Joe Biden échangeant des autocollants "J'ai voté" avec sa petite-fille lors des élections américaines de mi-mandat en 2022 et l'embrassant sur la joue.

Des versions du même clip vidéo modifié avaient commencé à devenir virales dès janvier 2023, a déclaré la Commission.

Dans sa décision, le comité de surveillance a déclaré que Meta avait eu raison de laisser la vidéo en ligne en vertu de sa politique actuelle, qui interdit les vidéos modifiées trompeuses uniquement si elles ont été produites par une intelligence artificielle ou si elles donnent l'impression que des personnes ont prononcé des mots qu'elles n'ont en réalité jamais prononcés.

Le conseil d'administration a déclaré que le contenu non modifié par l'IA "est très répandu et n'est pas nécessairement moins trompeur" que le contenu généré par des outils d'IA.

Il a ajouté que cette politique devrait également s'appliquer aux contenus uniquement audio ainsi qu'aux vidéos montrant des personnes faisant des choses qu'elles n'ont jamais faites en réalité.

L'application de cette politique devrait consister à apposer des étiquettes sur les contenus plutôt qu'à retirer les messages de ses plateformes, comme le fait actuellement Meta.