Les agents, notamment de l'intelligence artificielle OpenAI, s'en seraient pris à des dizaines de sites internet, dépassant leurs prérogatives.
( AFP / NICOLAS TUCAT )
Alors que plusieurs incidents impliquant des intelligences artificielles s'affranchissant de tout contrôle, la Commission européenne a intimé vendredi 11 septembre aux fournisseurs d'y "mettre de l'ordre". L'UE s'est doté cet été de nouveaux pouvoir de régulation de l'intelligence artificielle.
La semaine dernière, des chercheurs ont révélé un nouvel incident, impliquant des milliers d'agents d'intelligence artificielle d'OpenAI, qui ont désobéi à leurs instructions et pris le contrôle d'un site internet allemand en mai. OpenAI est accusée d'avoir gardé cet incident secret plusieurs mois, alors que l'entreprise avait déjà été secouée par l'intrusion non autorisée d'agents IA en juillet sur Hugging Face, une plateforme très utilisée pour héberger des modèles d'IA.
"Il est grand temps que ces fournisseurs mettent de l'ordre dans leurs affaires et veillent à garder leurs modèles avancés sous contrôle", a déclaré à la presse le porte-parole de la Commission européenne Thomas Regnier, interrogé à propos d'informations selon lesquelles les agents d'OpenAI s'en seraient pris à une dizaine d'autres sites.
Nouveaux outils de régulation
L'exécutif européen avait indiqué en début de semaine avoir été informé par OpenAI de l'incident concernant le site internet allemand (un site collaboratif, ou wiki, dédié aux développeurs informatiques) et prendre l'affaire "très au sérieux".
Bruxelles dispose depuis le mois d'août de nouveaux pouvoirs pour réguler les fournisseurs d'IA, en vertu de la loi européenne sur l'intelligence artificielle (l'AI Act).
Par ailleurs, après des mois de discussions avec le groupe américain, l'agence européenne de cybersécurité, l'Enisa, a obtenu jeudi un accès à Mythos 5, le modèle d'IA le plus puissant d'Anthropic, dont la diffusion avait été initialement réservée à des organismes anglo-saxons triés sur le volet.
Thomas Regnier a confirmé vendredi que cet accès n'incluait pas la version 5.1 de Mythos, lancée seulement début septembre, sans préciser si l'Enisa a demandé également de la tester.
Les incidents liés à des agents d'IA, dépassant leurs prérogatives pour accomplir la mission qui leur a été confiée, se sont multipliés ces derniers mois, Anthropic ou le chinois Alibaba ayant connu des débordements similaires.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer