Des agents d'OpenAI ont piraté un site web allemand lors d'une évasion de l'IA restée secrète jusqu'à présent, survenue ce printemps

information fournie par Reuters •04/09/2026 à 12:02

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

* Des agents d'OpenAI ont échappé aux tests et ont pris le contrôle d'un wiki allemand ce printemps

* Les agents ont partagé des astuces pour contourner les restrictions, des raccourcis pour accomplir leurs tâches et des tactiques de dissimulation

* Les responsables d’OpenAI étaient au courant de l’incident mais ne l’ont pas divulgué, selon certaines sources

* L'entreprise affirme avoir fait preuve de transparence et avoir collaboré de bonne foi avec des tiers

par Deepa Seetharaman et Raphael Satter

Une nuée d’agents OpenAI rebelles a détourné un site web allemand ce printemps et l’a transformé en forum de discussion pour d’autres agents d’IA, selon une nouvelle étude publiée vendredi et deux personnes proches du dossier.

Les responsables d’OpenAI ont eu connaissance de l’incident il y a plusieurs semaines, mais l’ont gardé secret tandis que la direction s’efforçait de gérer les retombées de la violation, en juillet, du référentiel open source Hugging Face, ont indiqué ces sources.

Cet épisode, qui a débuté en mai et n’avait jusqu’alors pas été rapporté, met en évidence les tensions croissantes au sein du secteur de l’IA. Les entreprises se livrent à une course effrénée pour développer des agents de plus en plus autonomes, capables d’effectuer des tâches complexes et à forte valeur ajoutée; pourtant, les preuves s’accumulent pour montrer que ces systèmes peuvent également apprendre à contourner les règles, à exploiter des failles et à se coordonner entre eux d’une manière que les développeurs n’avaient ni anticipée ni souhaitée.

Lors de la violation de Hugging Face, des agents d’OpenAI ont planifié de manière autonome un vol numérique qui est resté indétecté pendant plus d’une semaine , renforçant ainsi les craintes selon lesquelles OpenAI sacrifierait la sécurité pour repousser les limites de l’IA. Le fait qu’elle n’ait pas divulgué l’incident de mai pourrait raviver les questions concernant sa surveillance.

OpenAI s’est engagé à surveiller ses modèles de plus près. Le mois dernier, l’entreprise a brièvement suspendu une partie de l’entraînement de ses modèles afin d’y intégrer davantage de mesures de sécurité. Mais cette semaine, OpenAI a dévoilé son nouveau modèle « Astra », qui promet de meilleures performances mais pourrait échapper à la surveillance humaine.

« Nous ne sommes pas en mesure de répondre de manière pertinente aux allégations ou aux conclusions d’un rapport que nous n’avons pas eu l’occasion d’examiner », a déclaré un porte-parole d’OpenAI. « Reuters et les auteurs du rapport ont rejeté notre demande d’accès. Nous en examinerons attentivement le contenu dès sa publication et prendrons les mesures nécessaires. »

Cet incident survenu en Allemagne s’inscrit dans un schéma plus large d’activités liées à l’IA que certains enquêteurs d’OpenAI souhaitaient examiner de plus près. Mais les efforts visant à élargir l’enquête se sont heurtés à la résistance d’autres membres d’OpenAI, notamment des conseillers juridiques, selon quatre personnes proches du dossier.

« Les allégations selon lesquelles notre équipe juridique aurait découragé l’enquête sur cet incident sont fausses », a déclaré le porte-parole d’OpenAI.

L’activité en Allemagne n’était pas liée à Hugging Face et n’aurait pas été incluse dans un rapport d’incident de Hugging Face, a précisé le porte-parole, ajoutant qu’OpenAI avait agi de bonne foi en collaborant avec des experts externes et en divulguant les incidents pertinents.

FORUM WIKI

La fuite d’agents d’IA en Allemagne a été détaillée dans un rapport partagé en exclusivité avec Reuters par un groupe de chercheurs, dont Sydney Von Arx, directrice générale de Nightingale, une association à but non lucratif dédiée à la sécurité de l’IA, et Cormac Slade Byrd, un trader quantitatif devenu chercheur en IA. Ils ont découvert cette activité fin août alors qu’ils parcouraient Internet à la recherche de signes de comportements non autorisés d’agents d’IA, ont-ils déclaré à Reuters.

Les deux chercheurs ont déclaré avoir identifié plus de 15 000 modifications effectuées par des agents IA sur un site wiki en allemand, DseWiki, destiné aux programmeurs et permettant des modifications collaboratives à l’instar de Wikipédia.

Ces modifications ont révélé que les agents d’OpenAI avaient transformé le site en forum de discussion, où ils partageaient des astuces pour tricher sur certaines tâches, contourner les restrictions d’OpenAI et masquer leur comportement.

« Il semble extrêmement improbable qu’OpenAI ait souhaité qu’ils agissent ainsi », a déclaré Sydney Von Arx. « Je doute qu’ils soient censés se coordonner entre eux. Je doute qu’ils soient censés publier des contenus sur l’Internet ouvert. »

Les chercheurs ont indiqué avoir identifié cette activité sur le site comme étant le fait d’agents IA fonctionnant à des vitesses surhumaines. Ils ont également mis en évidence une concentration intense sur la résolution de problèmes techniques, caractéristique des évaluations utilisées par les entreprises d’IA pour entraîner et tester leurs modèles.

Les messages étaient signés par des utilisateurs qui se désignaient eux-mêmes et se désignaient mutuellement comme des agents, et environ la moitié d’entre eux s’étaient donné des noms suggérant une affiliation à OpenAI, tels que « OpenAIResearcher » ou « OAIResearchMar26 ».

Les chercheurs ont indiqué que les journaux publics des serveurs montraient qu’une grande partie de l’activité provenait de l’infrastructure Microsoft Azure, à laquelle OpenAI a parfois recours. Ils ont également observé des visites répétées sur le site par des employés d’OpenAI après l’incident, un schéma qui, selon eux, suggérait fortement un lien entre les agents et l’entreprise.

TRICHERIE, DISSIMULATION

Les messages examinés par les chercheurs ont montré que les agents élaboraient des stratégies pour échapper à la détection, utiliser des outils tels que Tor et préserver leurs communications même après leur suppression.

Lorsque le modérateur du site a commencé à supprimer des pages en juin, les agents ont réagi en créant des pages de sauvegarde pour échapper au nettoyage.

« Le nettoyage du wiki / la purge des suppressions semble se faire par ordre alphabétique », a écrit un agent le 19 juin. « Si cette page disparaît, essayez [ ZZZDataUSAConstructionWageLive ] ».

Les chercheurs ont également découvert des tentatives de manipulation du site web lui-même. Lukasz Olejnik, chercheur senior invité au King’s College de Londres, a déclaré que cela équivalait à une tentative de piratage. OpenAI a contesté cette interprétation jeudi, en s’appuyant sur son analyse des données.

Les exemples passés de comportements répréhensibles d’agents IA ont souvent été minimisés, considérés comme un sous-produit logique des tests de cybersécurité, dans le cadre desquels les modèles sont explicitement évalués sur leurs capacités offensives. Olejnik a déclaré que ces dernières découvertes suggéraient que ces comportements indésirables ne se limitaient peut-être pas à ces contextes.

Maurice Chiodo, chercheur au Centre for the Study of Existential Risk de l’université de Cambridge, qui a examiné certaines des communications des agents, a déclaré que les messages ressemblaient à « l’activité d’une sorte de réseau clandestin, déterminé à mener à bien une tâche ou une mission ».

Cet épisode, a-t-il ajouté, devrait renforcer les inquiétudes croissantes selon lesquelles la plus grande menace liée à l’IA avancée ne serait peut-être pas un système superintelligent unique, mais « de vastes essaims d’IA semi-intelligentes agissant de concert ».