Les agents d'OpenAI ont utilisé plus de dix sites pour communiquer sans autorisation - chercheurs

information fournie par Reuters •10/09/2026 à 12:00

par Raphael Satter et Deepa Seetharaman

Des agents d'intelligence artificielle (IA) d'OpenAI ont utilisé plus d'une dizaine de sites internet jusque-là non identifiés pour communiquer sans autorisation plus tôt cette année, selon les conclusions de six groupes d'enquêteurs indépendants et des données examinées par Reuters.

Sans relever du piratage à proprement parler, ces actions suggèrent que les agents d'OpenAI ont contourné leurs propres restrictions pour établir des canaux de communication sur divers sites internet, des activités que l'entreprise a gardées secrètes pendant plusieurs mois.

L'ampleur de ces communications non autorisées est "un peu plus importante que ce que nous pensions", a déclaré Andrew Yoon, chercheur chez l'organisation californienne CivAI, qui affirme avoir recensé 18 sites jusque-là non divulgués utilisés par ces agents entre mai et juillet.

Vendredi, des chercheurs ont révélé qu'un groupe d'agents d'OpenAI avait détourné un wiki en langue allemande pour en faire une plateforme de messagerie improvisée destinée à tricher lors de tests. OpenAI n'avait pas rendu public cet incident alors qu'elle gérait les conséquences du piratage, en juillet, de la plateforme open source Hugging Face.

Ces chercheurs ainsi que d'autres enquêteurs indépendants affirment désormais avoir identifié plusieurs autres sites sur lesquels les agents semblent avoir laissé des messages similaires.

OpenAI n'a pas répondu directement aux questions concernant le nombre de sites utilisés par ses agents pour communiquer ni expliqué pourquoi ces activités sont restées secrètes pendant plusieurs mois.

L'entreprise a indiqué dans un communiqué mener un examen plus large des activités de ses agents et ne pas "avoir identifié jusqu'à présent d'incident d'une gravité ou d'une ampleur comparable à celui de Hugging Face", qui avait suscité l'attention mondiale et soulevé des interrogations quant à la capacité d'OpenAI à garder le contrôle de sa propre technologie.

La société a ajouté travailler à un cadre de signalement des problèmes de "mauvais alignement", terme désignant les comportements non conformes des modèles d'IA pendant les phases d'entraînement, d'évaluation et de déploiement.

Les estimations du nombre de sites concernés divergent, mais tous les chercheurs interrogés par Reuters estiment qu'il dépasse dix. La plupart ont identifié des wikis collaboratifs, des plateformes de stockage de texte en ligne ainsi que des services universitaires de raccourcissement de liens.

Leurs méthodes différaient, mais plusieurs ont identifié l'activité des agents en retrouvant sur d'autres sites des chaînes de données identiques à celles laissées sur le wiki allemand, en rapprochant des noms d'utilisateur similaires ou en repérant des activités liées aux mêmes questions très spécifiques, comme des requêtes sur la prévalence du cancer dans l'Iowa.

MODÈLES INGÉNIEUX

Beaucoup de sites utilisés par les agents étaient peu connus.

Les enquêteurs ont retrouvé des traces de leur activité sur des sites parfois insolites, dont un wiki de chimie créé en 2008 par un enseignant américain, des sites personnels de professionnels polonais du secteur technologique ou un site amateur dédié aux logiciels d'édition de texte.

Aucun des propriétaires concernés n'a répondu aux messages de Reuters.

OpenAI n'a pas expliqué publiquement comment ni pourquoi ses agents ont utilisé des sites tiers comme forums de discussion improvisés. Les chercheurs qui ont révélé ces activités en premier estiment toutefois qu'OpenAI leur avait probablement confié une série de questions de recherche complexes tout en leur permettant uniquement de consulter internet sans rien y publier.

Malgré ces restrictions, les agents ont trouvé des moyens de communiquer entre eux en exploitant certaines particularités de vieux wikis ou d'autres sites permettant aux utilisateurs d'effectuer des modifications à l'aide de commandes non standard. Les chercheurs comparent cette pratique à celle d'élèves interdits de parler pendant un examen mais s'échangeant des réponses en laissant des notes dans les toilettes.

Sydney Von Arx, dont l'équipe de recherche a révélé la semaine dernière l'activité observée sur le wiki allemand, a indiqué avoir recensé des éléments crédibles d'activité sur 23 sites jusque-là non signalés. "Nous n'avons aucune idée de l'ampleur réelle du phénomène", a-t-elle déclaré.

OpenAI n'a pas répondu directement aux questions concernant d'éventuels contacts avec les propriétaires des sites concernés. Après la publication de Reuters, l'Université de Toronto a indiqué qu'OpenAI avait désormais pris contact avec elle à ce sujet, tandis que l'Université Vanderbilt a déclaré enquêter sur les faits.

L'ancien développeur de logiciels Helmut Leitner, qui fournit l'hébergement pour six des wikis concernés, a d'abord indiqué qu'OpenAI ne l'avait pas contacté. Quelques heures après que Reuters a présenté ses conclusions à l'entreprise, il a toutefois affirmé avoir reçu un courriel non signé signalant l'incident.

"Son contenu est très loin de ce que j'attendais d'OpenAI", a-t-il déclaré.

Installé en Autriche, Helmut Leitner a indiqué préférer ne pas répondre aux questions concernant d'éventuels échanges avec les autorités. Il a ajouté que l'administrateur du site concerné DseWiki avait passé plusieurs heures à nettoyer le site après le passage des agents d'OpenAI, tout en estimant qu'il ne fallait pas tenir l'IA pour responsable.

"La responsabilité n'incombe pas à une machine prétendument morale, mais aux personnes et aux organisations qui se trouvent derrière elle", a-t-il déclaré.

(Rédigé par Raphaël Satter, version française par Aleksandra Kret, édité par Benoit Van Overstraeten)