OpenAI interdit un chatbot "clone" d'un candidat politique

information fournie par Boursorama avec AFP •23/01/2024 à 08:57

( AFP / LIONEL BONAVENTURE )

OpenAI, l'éditeur de ChatGPT, a supprimé un agent conversationnel, ou "chatbot", créé pour incarner en ligne un candidat à l'élection présidentielle américaine, imposant ainsi des limites à l'utilisation de ses outils d'intelligence artificielle (IA) générative par les campagnes politiques.

Un groupe de soutien à Dean Phillips, membre du Congrès américain, avait demandé à une start-up basée à Miami de créer un chatbot qui permettrait aux utilisateurs de discuter avec ce candidat peu connu.

"Nous avons récemment supprimé un compte de développeur qui violait sciemment les règles de notre API (interface de programmation d'application, NDLR) et de notre plateforme, qui interdisent les campagnes politiques ou l'usurpation de l'identité d'une personne sans son consentement", a déclaré samedi OpenAI au Washington Post, qui a été le premier journal à rapporter cette information.

L'essor de l'IA générative fait craindre que des personnes n'utilisent ChatGPT et d'autres outils similaires pour semer le chaos politique, notamment par le biais de la désinformation ou de clones d'IA, à l'approche de plusieurs élections majeures qui se tiendront cette année dans le monde entier.

En tant que leader de cette technologie, OpenAI, qui est en grande partie financée par Microsoft, fait l'objet d'une attention particulière.

La société californienne a déclaré la semaine dernière qu'elle fournirait aux utilisateurs des ressources pour réduire les risques de dommages.

Le robot conversationnel baptisé "Dean-bot" était destiné à servir d'outil d'information dans le cadre de la campagne pour les primaires du parti démocrate. OpenAI s'est empressée de le retirer après qu'un article du Washington Post a mis en ligne un lien permettant de le tester.

Le groupe politique à l'origine du chatbot, We Deserve Better ("Nous méritons mieux"), est codirigé par un ancien collaborateur de Sam Altman, le patron d'OpenAI, et a reçu des fonds de la part d'investisseurs de la Silicon Valley, selon le quotidien américain.

Après la publication du rapport, Delphi, la start-up engagée pour créer le robot, a été exclue de la plateforme d'OpenAI.

Delphi s'appuie sur les modèles d'IA d'OpenAI pour créer des "chatbots" capables d'imiter la voix de personnalités telles que des influenceurs ou des célébrités.

Après la controverse, la société a déclaré que désormais elle "interdirait toute utilisation de [sa] plateforme par des personnalités ou organisations politiques".

"Nous avons cru, à tort, qu'il serait acceptable, selon les règlements d'OpenAI, qu'un comité d'action politique qui soutient Dean Phillips crée un clone de lui avec nos outils", a déclaré Delphi dimanche sur X. "Nous nous sommes excusés auprès d'OpenAI et de We Deserve Better pour notre erreur", a ajouté la start-up.