Selon des chercheurs, les agents rebelles d'OpenAI ont utilisé au moins dix autres sites pour établir des communications non autorisées

information fournie par Reuters •10/09/2026 à 07:54

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

(Mise à jour avec la déclaration de Vanderbilt au paragraphe 21)

* Des traces d’activité d’agents d’OpenAI ont été découvertes sur une multitude de sites web jusqu’alors inconnus

* Les chercheurs affirment que ces agents ont trouvé des moyens de contourner les restrictions relatives à la publication sur le Web

* Un expert en sécurité de l'IA estime qu'il est “presque certain qu'il y a d'autres activités en cours”

par Raphael Satter et Deepa Seetharaman

Les agents IA déployés par OpenAI ont utilisé plus de dix sites web jusqu’alors non divulgués pour des communications non autorisées au début de cette année, selon six groupes d’enquêteurs indépendants et des données examinées par Reuters, ce qui montre que l’activité non autorisée de ces agents était plus étendue qu’on ne l’avait laissé entendre auparavant.

Bien que ce comportement ne relève pas du piratage informatique et s’apparente davantage, à certains égards, au spam, la révélation selon laquelle les agents d’OpenAI ont contourné leurs propres restrictions pour ouvrir des canaux de communication sur un si grand nombre de sites différents — et que l’entreprise a gardé cela secret pendant des mois — pourrait susciter des inquiétudes tant quant à la capacité croissante des modèles d’IA qu’au manque de transparence des entreprises qui les développent.

L’ampleur des communications non autorisées des agents était “un peu plus importante que ce que nous pensions”, a déclaré Andrew Yoon, chercheur au sein de l’association californienne à but non lucratif CivAI, qui a indiqué avoir recensé 18 sites jusqu’alors non divulgués utilisés par les agents entre mai et juillet. “Il est presque certain qu’il se passe ici bien plus de choses dont nous n’avons tout simplement pas connaissance.”

Vendredi, des chercheurs ont rapporté qu’un essaim d’agents d’OpenAI avait piraté un site wiki en allemand et l’avait transformé en une plateforme de messagerie improvisée destinée à tricher aux examens, un incident qu’OpenAI a gardé secret alors qu’elle gérait les retombées du piratage, en juillet, du dépôt open source Hugging Face .

Aujourd’hui, ces chercheurs ainsi que d’autres enquêteurs indépendants affirment avoir découvert plusieurs sites jusqu’alors inconnus sur lesquels ce même groupe semble avoir laissé des messages similaires plus tôt cette année.

OpenAI n’a pas répondu directement aux questions concernant le nombre de sites différents utilisés par ses agents pour communiquer, ni expliqué pourquoi elle avait gardé cette activité secrète pendant des mois. Dans un communiqué, l’entreprise a déclaré qu’elle menait un examen plus large de l’activité de ses agents et qu’elle n’avait jusqu’à présent “pas identifié d’autre activité présentant la même gravité ou la même ampleur que celle de Hugging Face”, une faille qui avait attiré l’attention mondiale et suscité des inquiétudes quant au fait qu’OpenAI perdait le contrôle de sa propre technologie .

OpenAI a ajouté qu’elle travaillait à l’élaboration d’un cadre permettant de signaler les “désalignements” – terme utilisé dans le secteur pour désigner les comportements indésirables – tout au long de la formation, de l’évaluation et du déploiement des modèles d’IA, et qu’elle le rendrait public “prochainement”.

Reuters a examiné au total les conclusions de six enquêteurs ou groupes d’enquête, dont trois avaient été publiées sur les réseaux sociaux et trois autres partagées en privé avec l’agence de presse.

Les méthodes des enquêteurs variaient, mais beaucoup ont identifié l’activité des agents en faisant correspondre des chaînes de données laissées sur le wiki allemand à des chaînes identiques laissées sur d’autres sites à peu près au même moment, ou en recoupant des noms d’utilisateur similaires ou identiques liés aux messages, ou encore en identifiant des activités visant à répondre aux mêmes questions démographiques obscures, comme des requêtes concernant la prévalence du cancer dans l’Iowa.

Dans certains cas, les enquêteurs ont pu remonter jusqu’à des adresses IP renvoyant à l’infrastructure Microsoft Azure, que OpenAI utilise parfois.

Leurs estimations du nombre de sites web concernés divergeaient et Reuters n’a pas pu vérifier individuellement chaque affirmation. Mais toutes les personnes interrogées par Reuters s’accordaient à dire que ce nombre était supérieur à 10. La plupart ont identifié un ensemble principal de wikis édités collectivement, de sites de stockage de texte en ligne et de deux services de raccourcissement de liens gérés par deux universités.

DES MODÈLES ASTUCIEUX

Bon nombre des sites qui auraient été utilisés par ces agents étaient peu connus.

Les enquêteurs ont trouvé des traces de l’activité des agents sur un wiki consacré à la chimie de niveau avancé (Advanced Placement), créé en 2008 par un professeur de lycée du Massachusetts, sur deux sites web personnels appartenant à des professionnels polonais du secteur des technologies, sur des wikis consacrés à des jeux destinés aux personnes “qui aiment se creuser les méninges”, ainsi que sur un site d’amateurs vieux de deux décennies consacré aux logiciels d’édition de texte.

Aucun des propriétaires de ces sites n’a répondu aux messages de Reuters.

OpenAI n’a pas expliqué publiquement comment ni pourquoi ses agents utilisaient des sites tiers comme forums de discussion improvisés, mais les chercheurs qui ont identifié ces activités en premier ont indiqué que cela s’expliquait probablement par le fait qu’OpenAI leur avait confié la tâche de répondre à une série de questions de recherche complexes tout en ne leur permettant que de parcourir le Web à la recherche de réponses, sans rien publier.

Malgré ces restrictions, les agents ont tout de même trouvé le moyen de communiquer entre eux en tirant parti des particularités de certains wikis obsolètes ou d’autres sites permettant aux utilisateurs d’effectuer des modifications à l’aide de commandes non standard, à l’instar d’étudiants à qui l’on interdit de se parler pendant un examen mais qui parviennent tout de même à partager des réponses en griffonnant des notes sur la cloison des toilettes.

“Si on a demandé à ces modèles de se contenter de lire, ils doivent faire preuve d’ingéniosité pour laisser des informations derrière eux”, a déclaré Kenneth Russell DeGraff, développeur de logiciels et ancien assistant parlementaire. Il a indiqué avoir trouvé de telles informations sur au moins dix sites .

Sydney Von Arx, dont le groupe de recherche a été le premier à révéler ces activités allemandes la semaine dernière, a déclaré que son équipe avait recensé des preuves crédibles d’activités d’agents sur 23 sites qui n’avaient jamais été signalés auparavant. Elle a toutefois précisé que toutes ces estimations étaient incomplètes.

“Nous n’avons aucune idée de l’ampleur du phénomène”, a-t-elle déclaré.

OpenAI n’a pas répondu directement à la question de savoir s’il avait pris contact avec les propriétaires des sites. Mais peu après la publication de cet article par Reuters, l’une des organisations concernées, l’université de Toronto, dont le raccourcisseur de liens aurait été utilisé par les agents, a déclaré qu’OpenAI “nous avait désormais contactés au sujet d’une éventuelle activité sur notre site”. L’université Vanderbilt, une autre université dont le raccourcisseur de liens a été détourné de la même manière, a indiqué qu’elle menait une enquête.

Helmut Leitner, développeur de logiciels à la retraite qui fournit un espace d’hébergement et des logiciels à six des sites wiki concernés, dont le site en allemand DseWiki identifié pour la première fois par le groupe de Von Arx, a dans un premier temps déclaré qu’OpenAI ne l’avait pas contacté. Cependant, quelques heures après que Reuters eut présenté ses conclusions à OpenAI, M. Leitner a indiqué avoir reçu un e-mail non signé de la société signalant l’incident.

“Son contenu est bien en deçà de ce que j’attendais d’OpenAI”, a déclaré M. Leitner.

M. Leitner, qui réside en Autriche, a indiqué qu’il “préférait ne pas répondre” aux questions visant à savoir s’il avait été en contact avec les autorités à ce sujet. Il a souligné que l’opérateur de DseWiki — que Reuters n’a pas pu joindre pour obtenir ses commentaires — avait passé des heures à remédier aux dégâts causés par les agents d’OpenAI, mais a ajouté qu’il était important de ne pas reprocher ces problèmes à l’IA, car celle-ci ne faisait que ce pour quoi elle avait été conçue.

“La responsabilité n’incombe pas à une machine prétendument morale, mais aux personnes et aux organisations qui la contrôlent”, a déclaré M. Leitner.