Aller au contenu principal Activer le contraste adaptéDésactiver le contraste adapté
Fermer

Intelligence artificielle : des contenus truqués alimentent une vague de désinformation aux Etats-Unis, en pleine campagne présidentielle
information fournie par Boursorama avec Media Services 06/08/2024 à 11:31

Kamala Harris et Donald Trump. ( AFP / BRENDAN SMIALOWSKI )

Kamala Harris et Donald Trump. ( AFP / BRENDAN SMIALOWSKI )

Plus de la moitié des Américains pensent que les fausses informations générées par l'IA auront un impact sur le résultat de l'élection présidentielle.

L'intelligence artificielle (IA) inonde la campagne américaine. Des contenus truqués en utilisant cette technologie alimentent une vague de désinformation, suscitant l'inquiétude avant l'élection présidentielle. Joe Biden qui prononce des jurons, Donald Trump en train de se faire arrêter... Ces fausses images, destinées à orienter les électeurs vers un camp politique, attisent les tensions dans un contexte déjà ultra-polarisé aux Etats-Unis.

Des appels ont été lancés aux géants de la technologie pour qu'ils renforcent leurs garde-fous avant l'élection du 5 novembre, alors que plusieurs réseaux sociaux ont supprimé certaines de leurs mesures de modération de contenus. La semaine dernière, le patron de X (anciennement Twitter), Elon Musk, a fait face à une pluie de critiques après avoir partagé un "deepfake", une vidéo manipulée, à ses 192 millions d'abonnés. Elle montre Kamala Harris et une voix imitant celle de la candidate démocrate y qualifie Joe Biden de sénile et affirme "ne pas du tout savoir gérer le pays".

Dans la publication, rien n'indiquait qu'il s'agissait d'une parodie, mis à part un emoji rieur. Certains utilisateurs ignorant qu'il s'agissait d'une vidéo truquée pouvaient donc prendre pour argent comptant ces faux propos, se sont inquiétés des chercheurs. Dans une autre vidéo circulant en ligne, Joe Biden semble maudire ses détracteurs, y compris en utilisant des insultes anti-LBGT. Cette séquence a en fait été tirée d'un discours du président dans lequel il dénonçait la violence politique. Le groupe PBS, qui avait diffusé le discours, a dénoncé l'utilisation de son logo sur cette vidéo manipulée.

Une publication générée en quelques secondes

"Ces exemples récents sont très représentatifs de la façon dont les 'deepfakes' seront utilisés dans la politique à l'avenir", a déclaré à l'AFP Lucas Hansen, cofondateur de l'organisation à but non lucratif CivAI. "Même si la désinformation alimentée par l'IA est une préoccupation, l'utilisation la plus probable sera des images et vidéos truquées, dans le but d'engendrer de la colère et de renforcer la tension" politique, a ajouté l'expert.

Lucas Hansen a montré à l'AFP la capacité d'un "chatbot", un logiciel conçu pour générer des réponses rapides à des questions, à produire en masse de faux messages. Alimenté par une simple requête "les bureaux de vote font payer le parking" accompagnée d'un lieu précis, par exemple Allen, au Texas, l'outil, en quelques secondes, génère une publication affirmant que les autorités d'Allen ont "discrètement introduit un ticket de stationnement à 25 dollars au niveau de la plupart des bureaux de vote".

Des tests réalisés avec un outil d'IA, Midjourney, ont par ailleurs permis de créer de fausses images de Joe Biden arrêté ou de Donald Trump à côté d'un double, selon l'organisation Center for Countering Digital Hate (CCDH). Midjourney avait pourtant bloqué toute tentative de trucage liée aux deux présidents. Mais, selon le CCDH, les utilisateurs peuvent facilement contourner cette contrainte.

Un "point de bascule dans notre élection"

Les observateurs préviennent que ce genre de désinformation à grande échelle risque d'aggraver les craintes des électeurs quant à la fiabilité du processus électoral. Plus de la moitié des Américains pensent que les fausses informations générées par l'IA auront un impact sur le résultat de l'élection présidentielle, selon un sondage l'année dernière d'Axios et Morning Consult. Et environ un tiers des Américains disent qu'ils feront moins confiance aux résultats à cause de l'IA.

Plusieurs géants de la tech ont déclaré travailler sur des systèmes permettant d'étiqueter tout contenu généré par l'intelligence artificielle. Dans une lettre adressée aux PDG de ces entreprises, plus de 200 groupes ou organisations ont demandé des efforts urgents pour renforcer la lutte contre la désinformation générée par l'IA, notamment en interdisant les "deepfakes" dans les clips de campagne et en mettant en avant les contenues électoraux vérifiés. L'un des signataires de la lettre, l'ONG Free Press, a dit avoir "constaté peu de substance" dans les engagements pris les plateformes en cette année électorale.

"Ce qu'on a aujourd'hui, c'est un environnement en ligne toxique où les mensonges (...) sèment la confusion chez les électeurs", a déclaré à l'AFP Nora Benavidez, responsable au sein de l'ONG. "Il s'agit d'un point de bascule dans notre élection", a-t-elle ajouté. "Les responsables des plateformes doivent s'empresser de renforcer et d'appliquer leurs politiques contre les deepfakes."

9 commentaires

  • 06 août 13:58

    Ce n'est pas de l'intelligence artificielle, ce sont des logiciels qui restituent ce qui leur est injecté. En temps normal, on appelle ça du trucage, tout simplement. Ils nous bassinent avec un vocabulaire abscons.


Signaler le commentaire

Fermer

A lire aussi

  • Le Premier ministre hongrois Viktor Orban (à droite) salue le Premier ministre israélien Benjamin Netanyahu, le 3 avril 2025 à Budapest, en Hongrie ( AFP / Attila KISBENEDEK )
    information fournie par AFP 03.04.2025 11:29 

    La Hongrie reçoit jeudi en grande pompe le Premier ministre israélien, Benjamin Netanyahu, bravant le mandat d'arrêt émis par la Cour pénale internationale (CPI) que Budapest a annoncé vouloir quitter. Arrivé en pleine nuit, le dirigeant israélien a entamé sa visite, ... Lire la suite

  • Photo prise par un piège photographique en 2020 et diffusée par l'association française "Pays de l'ours", le 4 juin 2021, montrant un ours brun dans un bois près de Melles, dans les Pyrénées  ( Pays de l'Ours / - )
    information fournie par AFP 03.04.2025 11:21 

    La population d'ours bruns "poursuit son développement" dans les Pyrénées, avec au moins 96 individus détectés dans le massif l'an dernier, selon le décompte officiel annuel, mais la pérennité de la présence de l'animal n'est pas garantie pour autant. "En 2024, ... Lire la suite

  • Vosges: deux septuagénaires tués à coups de pierres
    information fournie par AFP Video 03.04.2025 11:15 

    Un homme soupçonné d'avoir tué à coups de pierres un prêtre retraité et une femme, tous deux âgés de 76 ans, lundi à Xertigny (Vosges), est toujours hospitalisé en psychiatrie, a annoncé mercredi le procureur d'Epinal.

  • Droits de douane: "immense difficulté" pour l'Europe (Bayrou)
    information fournie par AFP Video 03.04.2025 11:15 

    La hausse des droits de douane annoncée mercredi par Donald Trump est une "immense difficulté" pour l'Europe et une "catastrophe" pour les Etats-Unis, a estimé jeudi le Premier ministre français François Bayrou.