INSIGHT-L'IA générative est mise à l'épreuve alors que l'Indonésie organise les élections les plus importantes depuis le boom économique information fournie par Reuters 08/02/2024 à 03:02
((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Kate Lamb, Fanny Potkin, Ananda Teresia
Fika Juliana Putri, une commerçante de 19 ans de l'est de Jakarta, prévoit de voter aux élections présidentielles indonésiennes de la semaine prochaine pour un ancien commandant des forces spéciales, autrefois redouté, . Elle l'aime bien, dit-elle, parce qu'il est câlin. Elle l'aime bien, dit-elle, parce qu'il est câlin.
Une version caricaturale du général Prabowo Subianto aux yeux de biche - produite à l'aide de l'IA générative - est affichée sur les panneaux d'affichage dans toute l'Indonésie. Elle est reproduite sur des sweatshirts et des autocollants, et figure en bonne place sur les posts marqués #Prabowo qui ont été vus quelque 19 milliards de fois sur TikTok.
Prabowo est le ministre indonésien de la défense. Mais sur les réseaux sociaux, son avatar IA aux joues potelées fait des cœurs au doigt à la coréenne et berce son chat bien-aimé, Bobby, pour le plus grand plaisir des électeurs de la génération Z. Près de la moitié des 205 millions d'électeurs indonésiens ont moins de 40 ans.
Les élections générales du 14 février en Indonésie, troisième plus grande démocratie du monde, donnent un ENQUÊTE de la manière dont l'IA générative peut transformer les campagnes politiques à grande échelle, selon les experts. La caricature générée par l'IA a joué un rôle central dans le repositionnement électoral de Prabowo, qui est largement en tête des sondages. Au lieu de se présenter comme un nationaliste ardent, comme il l'avait fait lors de ses deux précédentes candidatures présidentielles ratées, la nouvelle accroche de cet homme de 72 ans est"gemoy", ce qui signifie en argot indonésien "mignon" et "câlin". "Je voterai pour lui parce qu'il est gemoy", a déclaré Putri, qui vote pour la première fois. "C'est la raison principale
Prabowo - et son sosie créé à l'aide de la technologie de la société américaine Midjourney Inc - est à la tête de centaines de candidats qui utilisent des outils d'IA générative pour créer l'art de la campagne, suivre le sentiment des médias sociaux, créer des chatbots interactifs et cibler les électeurs.
La campagne de Prabowo et Midjourney, dont les lignes directrices interdisent son utilisation pour des campagnes politiques, n'ont pas répondu aux demandes de commentaires.
"C'est la première fois qu'une élection utilise ces outils à grande échelle", a déclaré Katie Harbath, qui était jusqu'en 2021 la principale responsable de la politique électorale chez Meta META.O et qui écrit aujourd'hui une lettre d'information sur la technologie et la démocratie. Mme Harbath, qui s'est dite surprise que les outils d'IA aient été adoptés aussi rapidement par les campagnes en Indonésie, a déclaré qu'il était trop tôt pour juger de l'impact électoral global de cette utilisation "sans précédent et révolutionnaire" de la technologie.
Reuters a interrogé 26 personnes pour évaluer l'utilisation de la technologie de l'IA dans la campagne indonésienne, y compris des conseillers politiques, des lobbyistes, des cadres de la technologie, des experts et des artistes créant des images d'IA générative pour les politiciens. Certains ont parlé sous le couvert de l'anonymat car ils n'étaient pas autorisés à s'adresser aux médias. Ils ont décrit des vendeurs et des campagnes qui repoussent les limites des directives émises par des fournisseurs tels que Midjourney et le leader du marché de l'IA générative, OpenAI. Le gouvernement indonésien n'a pas encore formulé de règles contraignantes sur l'utilisation des outils d'IA.
Alors qu'un tiers de la population mondiale se rend aux urnes cette année, notamment les États-Unis et l'Inde, les élections en Indonésie constituent un test pour la manière dont l'OpenAI contrôlera ses politiques, selon sept lobbyistes et experts politiques.
Neuf responsables de la campagne ont déclaré à Reuters que de nombreux outils d'IA utilisés lors des élections indonésiennes étaient alimentés par OpenAI. La plateforme de Prabowo en fait partie, selon le coordinateur de son équipe numérique. Le mois dernier, le propriétaire de ChatGPT, basé à San Francisco, a dévoilé des règles interdisant son utilisation pour les campagnes politiques, alors que le monde entier craint que l'IA n'interfère avec les élections. Ces règles interdisent notamment de créer des images de personnes réelles, y compris de politiciens.
OpenAI a déclaré qu'elle enquêtait sur les chatbots et les outils politiques identifiés par Reuters en Indonésie comme utilisant sa technologie. Elle a déclaré qu'un premier examen n'avait trouvé "aucune preuve" de l'utilisation de ses outils dans les élections et qu'elle s'était engagée à faire preuve de transparence et à diffuser des informations exactes.
Le consultant politique Yose Rizal a déclaré que l'application Pemilu.AI qu'il a développée utilise les logiciels GPT-4 et 3.5 d'OpenAI pour élaborer des stratégies de campagne et des discours hyperlocaux.
Le consultant indonésien a déclaré avoir vendu les services de l'application à 700 candidats aux élections législatives. Reuters n'a pas été en mesure de confirmer ces ventes de manière indépendante.
Pemilu.AI rassemble des données démographiques et parcourt les médias sociaux et les sites d'information, ce qui lui permet de générer des discours, des slogans et du contenu pour les médias sociaux adaptés à une circonscription.
Les candidats dressent la liste de leurs priorités politiques et choisissent l'image qu'ils souhaitent donner d'eux-mêmes. Les caractéristiques les plus recherchées par les politiciens utilisant Pemilu.AI en Indonésie, le pays à majorité musulmane le plus peuplé au monde, sont "humble" et "religieux", a déclaré M. Rizal.
Interrogé sur les règles de l'OpenAI, M. Rizal a déclaré que Pemilu.AI ne s'engageait pas "dans la création de campagnes politiques". Il l'a plutôt décrit comme un outil de communication destiné à "soutenir le processus de prise de décision des candidats"
PROCHAINE ÉTAPE: L'INDE
M. Rizal envisage ensuite d'amener la plateforme en Inde avant les élections générales, prévues pour le mois de mai. "Parce que l'Indonésie est avant les États-Unis et l'Inde... cette élection est un échauffement", a-t-il déclaré. Il a déclaré que Pemilu.AI avait coopéré étroitement avec Microsoft, qui héberge l'entreprise sur son service en nuage Azure, pour s'assurer que ses opérations étaient conformes à la réglementation. Microsoft, qui est l'un des principaux investisseurs d'OpenAI, a déclaré qu'il ne commentait pas les engagements de ses clients.
M. Rizal a déclaré qu'il testait une version de Pemilu.AI sur l'IA de Google, après avoir été contacté par l'équipe commerciale de l'entreprise. Google a confirmé que Pemilu.AI avait effectué des travaux préliminaires en utilisant son IA et qu'il était devenu un client du service en nuage. Google a déclaré que l'utilisation de son chatbot Bard pour des campagnes politiques n'était soumise à aucune restriction, à l'exception de l'interdiction de la désinformation.
Les élections indonésiennes mettent à l'épreuve les limites de ce que certaines entreprises d'IA considèrent comme une campagne politique.
Les règles d'OpenAI, mises à jour le 10 janvier, interdisent l'utilisation de sa technologie pour toute campagne politique ou de lobbying, y compris la production de matériel de campagne personnalisé ou ciblé sur des groupes démographiques spécifiques. Le même mois, OpenAI a banni le développeur d'un bot pour Dean Phillips, candidat démocrate à l'élection présidentielle américaine, et c'était la première fois qu'elle prenait des mesures concernant ces règles.
Les partisans de l'utilisation de l'IA générative dans les élections indonésiennes affirment qu'elle a permis aux candidats aux élections législatives d'accéder à des outils de campagne personnalisés qui seraient autrement réservés à des candidats majeurs disposant de budgets plus importants.
Selon Razi Thalib, qui dirige l'équipe numérique d'un autre candidat à la présidence, Anies Baswedan, ancien gouverneur de Jakarta, l'adoption continue de l'IA est tout à fait naturelle. "Peut-être que les résultats de l'élection permettront de tirer des leçons qui augmenteront le taux d'adoption ailleurs, a-t-il déclaré. Un conseiller de Ganjar Pranowo, le candidat du plus grand parti au Parlement, a confirmé que l'IA avait également été utilisée pour sa "campagne créative".
LE GÉNÉRAL "GEMOY
Prabowo, avec une avance de 20 points dans les sondages et le soutien implicite du populaire président indonésien Joko Widodo, a été le plus grand bénéficiaire de l'IA générative au cours de ce cycle, l'utilisant pour renforcer son soutien auprès de la génération Z. Des millions de jeunes électeurs n'étaient pas en vie à l'époque de la guerre civile.
Des millions de jeunes électeurs n'étaient pas encore en vie lorsque Prabowo a été démis de ses fonctions au sein de l'armée indonésienne à la fin des années 1990, à la suite d'allégations de violations des droits de l'homme, qu'il a toujours niées.
Les sympathisants peuvent utiliser l'application de campagne de Prabowo pour s'insérer dans des scènes générées par l'IA, telles qu'une randonnée dans la jungle aux côtés de l'homme politique en tenue de safari, qui sont ensuite partagées sur les médias sociaux. "Certains disent que l'IA n'est pas bonne pour la politique, mais l'IA intéresse les gens", a déclaré l'artiste Adriansyah, 25 ans, qui, avec sa femme Lusi Yulistia, a été chargé de réaliser des dessins générés par Midjourney de Prabowo et de son colistier, le fils du président Widodo, âgé de 36 ans, . En Indonésie, l'âge du droit de vote est fixé à 17 ans et une enquête réalisée en janvier par l'institut de sondage Indikator Politik a révélé que Prabowo avait obtenu plus de 60 % du vote de la génération Z. Il était également le candidat le plus populaire parmi les jeunes. Il était également le candidat le plus populaire parmi les milléniaux, avec 42 % de leur soutien.
La branche bénévole de la campagne a lancé la plateforme d'IA générative PrabowoGibran.ai en décembre pour aider ses 15 000 bénévoles de la "cybertroupe" à suivre les sentiments en ligne et à partager des œuvres d'art générées par l'IA sur les médias sociaux.
Le coordinateur national, Anthony Leong, a déclaré à Reuters que la plateforme utilisait la technologie OpenAI et des logiciels internes. En Indonésie, les campagnes politiques ont engagé des créateurs pour utiliser des outils de création de textes tels que Midjourney, Leonardo AI, Microsoft Bing et Pika Labs, ont déclaré cinq artistes à Reuters.
Un porte-parole de Microsoft Bing, qui s'appuie sur le modèle de conversion texte-image DALL-E d'OpenAI, a déclaré que les personnalités publiques pouvaient demander à limiter la création d'images associées à leur nom.
LeonardoAI et Pika Labs n'ont pas répondu aux demandes de commentaires.
"Il est vrai que l'application a des limites en ce qui concerne le contenu politique", a déclaré M. Lusi, en faisant référence à Midjourney. "En fait, je n'utilise l'application que pour changer le caractère de la photo originale en un certain thème
L'IA PARTOUT
La campagne d'Anies a lancé en janvier un chatbot WhatsApp alimenté par OpenAI qui répond aux questions sur ses politiques.
Cet outil a été supprimé peu après son lancement en décembre, car il attribuait à tort sept piliers à l'idéologie de l'État indonésien, alors qu'il n'y en a que cinq. Il n'a pas été rétabli.
La campagne de M. Ganjar a déployé un tableau de bord qui utilise la technologie OpenAI et recherche des données en ligne pour prédire les sujets de discussion et offrir des alertes en temps réel sur les médias sociaux concernant le candidat, a déclaré le conseiller Andi Widjajanto.
Un cas controversé d'utilisation de l'IA s'est produit en janvier, lorsque le parti Golkar, qui soutient Prabowo, a publié des vidéos "deepfake" de l'ancien homme fort Suharto exhortant les électeurs à soutenir ses candidats. Les clips contenant des messages de campagne ont été marqués comme étant générés par l'IA.
L'Advocacy Team on Elections Concerns (TAPP), une organisation à but non lucratif basée à Jakarta, a déclaré dans un communiqué que les vidéos, qui restent en ligne, montraient le potentiel de l'IA pour la manipulation des électeurs.
Dara Nasution, un haut responsable numérique du Golkar, a qualifié les vidéos de "messages positifs"
L'image de Suharto a été créée avec Midjourney et l'application d'imagerie Leonardo AI, tandis que sa voix a été fabriquée à l'aide du logiciel de la startup américaine de clonage de voix ElevenLabs combiné à une technologie interne, a-t-elle déclaré.
Leonardo AI et ElevenLabs n'ont pas répondu aux demandes de commentaires.
Trois observateurs des élections ont déclaré à Reuters qu'ils n'avaient pas vu l'IA utilisée pour diffuser des informations erronées et de la désinformation à grande échelle au cours de la compétition.
" La désinformation a été limitée par rapport à l'élection de 2019 ", a déclaré Aribowo Sasmito, cofondateur de l'organisation de vérification des faits Mafindo.