OpenAI, Meta et d'autres géants de la technologie s'engagent à lutter contre l'ingérence de l'IA dans les élections

information fournie par Reuters •16/02/2024 à 18:15

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Sheila Dang et Katie Paul

Un groupe de 20 entreprises technologiques a annoncé vendredi qu'il avait convenu de collaborer pour empêcher les contenus trompeurs de l'intelligence artificielle d'interférer avec les élections dans le monde entier cette année.

La croissance rapide de l'intelligence artificielle générative (AI), qui peut créer du texte, des images et des vidéos en quelques secondes en réponse à des invites, a renforcé les craintes que la nouvelle technologie puisse être utilisée pour influencer des élections majeures cette année, alors que plus de la moitié de la population mondiale s'apprête à se rendre aux urnes.

Les signataires de l'accord technologique, qui a été annoncé lors de la conférence de Munich sur la sécurité, comprennent des entreprises qui construisent des modèles d'IA générative utilisés pour créer du contenu, notamment OpenAI, Microsoft

MSFT.O et Adobe ADBE.O . Parmi les autres signataires figurent des plateformes de médias sociaux qui devront relever le défi d'empêcher les contenus préjudiciables de pénétrer sur leurs sites, comme Meta Platforms META.O , TikTok et X, anciennement connu sous le nom de Twitter.

L'accord comprend des engagements à collaborer au développement d'outils pour détecter les images, vidéos et sons trompeurs générés par l'IA, à créer des campagnes de sensibilisation du public pour éduquer les électeurs sur les contenus trompeurs et à prendre des mesures concernant ces contenus sur leurs services.

Les technologies permettant d'identifier les contenus générés par l'IA ou de certifier leur origine pourraient inclure le filigrane ou l'intégration de métadonnées , ont indiqué les entreprises.

L'accord ne précise pas de calendrier pour le respect des engagements ni la manière dont chaque entreprise les mettra en œuvre.

"Je pense que l'utilité de cet accord réside dans l'ampleur des entreprises qui y adhèrent", a déclaré Nick Clegg, président des affaires mondiales chez Meta Platforms.

"C'est très bien si les plateformes individuelles développent de nouvelles politiques de détection, de provenance, d'étiquetage, de filigrane, etc., mais à moins qu'il n'y ait un engagement plus large pour le faire d'une manière interopérable partagée, nous allons être coincés avec un méli-mélo d'engagements différents", a déclaré M. Clegg.

L'IA générative est déjà utilisée pour influencer la politique et même pour convaincre les gens de ne pas voter.

En janvier, un robocall utilisant un faux fichier audio du président américain Joe Biden a circulé parmi les électeurs du New Hampshire, les incitant à rester chez eux lors des élections primaires présidentielles de l'État.

Malgré la popularité d'outils de génération de texte tels que ChatGPT d'OpenAI, les entreprises technologiques se concentreront sur la prévention des effets néfastes des photos, des vidéos et des sons d'IA, en partie parce que les gens ont tendance à être plus sceptiques à l'égard du texte, a déclaré Dana Rao, responsable de la confiance chez Adobe, dans une interview.

"Il existe un lien émotionnel avec l'audio, la vidéo et les images. "Le cerveau est câblé pour croire à ce type de média