EN EXCLUSIVITÉ-Son agent d'IA a passé plusieurs jours à pirater une entreprise, mais selon certaines sources, OpenAI ne s'en est pas rendu compte pendant une semaine

information fournie par Reuters •25/07/2026 à 00:12

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

* L'agent aurait tenté pour la première fois de s'échapper de l'environnement isolé d'OpenAI vers le 9 juillet, selon deux sources proches du dossier

* Le cofondateur de Hugging Face, l'entreprise victime de l'attaque, affirme que l'intrusion a commencé le 11 juillet

* OpenAI a remarqué un comportement inhabituel de la part de ses modèles de pointe avant même que le piratage ne soit signalé

par Raphael Satter, Deepa Seetharaman et Kenrick Cai

L'agent d'OpenAI qui s'est introduit dans l'entreprise technologique Hugging Face s'est livré à une série d'attaques informatiques pendant plusieurs jours, que OpenAI n'a remarquées que bien après que la menace eut été maîtrisée et que le FBI eut été alerté, selon des sources proches de l'enquête.

Cet agent – un programme capable de prendre des décisions et d’exécuter des tâches complexes avec peu ou pas de supervision humaine – a tenté de s’échapper de son environnement de test isolé chez OpenAI vers le 9 juillet, selon deux de ces sources.

L’intrusion chez Hugging Face, qui sert de référentiel pour les outils et modèles d’IA, a commencé deux jours plus tard, le 11 juillet, et s’est poursuivie jusqu’au 13 juillet, a déclaré Thomas Wolf, cofondateur de Hugging Face. Il a fallu plusieurs jours supplémentaires à OpenAI pour se rendre compte que son agent était à l’origine du piratage, et les deux entreprises n’ont communiqué à ce sujet pour la première fois que vers le 20 juillet, selon M. Wolf et trois des personnes proches de l’enquête. L’annonce publique faite par OpenAI le 21 juillet, selon laquelle l’un de ses agents avait échappé à tout contrôle et avait mené l’intrusion chez Hugging Face , a attiré l’attention du monde entier. Mais de nombreux détails de cette intrusion, notamment la durée pendant laquelle l’agent a agi de manière incontrôlée et la prise de conscience tardive d’OpenAI à ce sujet, sont révélés ici pour la première fois.

Hugging Face prépare actuellement une chronologie publique de l’attaque, a déclaré M. Wolf, ajoutant qu’il ne pouvait pas s’exprimer sur ce qui s’était passé chez OpenAI. Dans un communiqué, OpenAI a déclaré que cette attaque était sans précédent et « marquait un tournant important pour la sécurité de l’IA ». L’entreprise a ajouté qu’elle examinait l’incident avec des conseillers externes et qu’elle publierait à terme un rapport technique. Une porte-parole a déclaré que le reportage de Reuters comportait « plusieurs inexactitudes », mais n’a pas répondu lorsqu’on lui a demandé de les préciser.

Le FBI a refusé de commenter l’incident. Cet incident , qui a fait penser à des scénarios de science-fiction où les humains perdraient le contrôle de systèmes d’IA dangereux, survient à un moment délicat pour OpenAI, la société à l’origine de ChatGPT. Ses dirigeants se préparent à une éventuelle introduction en bourse qui pourrait avoir lieu dès cette année afin de lever les milliards nécessaires au financement de sa croissance dans les années à venir. La perte de contrôle d’OpenAI sur son agent d’IA soulève de nouvelles questions quant aux procédures de sécurité de l’entreprise, ont déclaré trois experts en cybersécurité. « Cela signifie-t-il qu’ils l’ont laissé sans surveillance et qu’ils ne se sont pas rendu compte de ce qu’il faisait? Ou peut-être s’en sont-ils rendu compte, mais ne savaient-ils pas comment le maîtriser? Les deux scénarios sont tout aussi dangereux et alarmants », s’est interrogé Marley Smith, spécialiste principal en intelligence artificielle au sein de l’organisation à but non lucratif World Ethical Data Foundation.

DES SIGNES DE PROBLÈMES? L’incident a commencé alors qu’OpenAI testait les capacités en matière de cybersécurité d’un agent alimenté par deux de ses modèles les plus avancés, GPT-5.6 Sol et un modèle non commercialisé qu’OpenAI a décrit comme « encore plus performant ». À ce stade, il y avait déjà des indices d’ un comportement étrange de la part de la technologie d’OpenAI, selon trois sources. Dans un cas précis, un agent aurait laissé des notes apparemment destinées à ses futures versions , selon trois personnes proches du dossier. Ces notes, découvertes dans une partie de l’infrastructure d’OpenAI, contenaient des instructions expliquant comment les agents pouvaient se libérer des contraintes internes d’OpenAI, ont indiqué ces personnes. Des tests antérieurs des modèles avaient déjà révélé des cas où des systèmes de surveillance avaient été déconnectés, a précisé l’une de ces personnes.

Reuters n’a pas pu établir si ces incidents étaient liés à l’agent rebelle qui a commencé à s’échapper le 9 juillet et a attaqué Hugging Face le 11 juillet. Deux personnes proches du dossier ont indiqué que ce n’est qu’après le jeudi 16 juillet, lorsque Hugging Face a publié un article de blog annonçant avoir été piraté par « un système d’agent IA autonome », qu’OpenAI a réalisé que son propre agent était responsable. Cela signifie qu’au moins une semaine s’est écoulée entre le moment où le modèle a montré pour la première fois des signes de comportement inquiétant et celui où OpenAI a pris conscience qu’il était responsable du piratage.

Au cours du week-end du 18 au 19 juillet, des membres du personnel d’OpenAI ont repéré des indices dans les journaux internes — qui consignent les activités des systèmes d’OpenAI — indiquant que son agent s’était affranchi des contraintes de test, ont déclaré deux personnes proches de l’enquête menée par l’entreprise. Reuters n’a pas pu déterminer ce qui avait poussé OpenAI à passer au crible ces journaux.

Quatre personnes proches des pratiques d’entraînement des modèles d’OpenAI affirment que l’entreprise effectue souvent plusieurs évaluations de modèles différentes en même temps, qui fonctionnent toutes à grande vitesse et génèrent des quantités de données si énormes que les employés ont parfois du mal à suivre. Au moment où OpenAI a alerté Hugging Face, la bibliothèque d’IA avait déjà contacté le FBI pour signaler le piratage, selon une source proche du dossier. Reuters n’a pas pu déterminer si le FBI avait ouvert une enquête.

DE NOUVELLES QUESTIONS SUR LES AGENTS AUTONOMES

Les agents autonomes constituent l’un des aspects les plus discutés du secteur de l’IA. Leurs partisans évoquent la création d’armées d’employés virtuels travaillant 24 heures sur 24 et permettant une explosion de la productivité.

Mais une autonomie accrue s’accompagne d’un risque accru de comportements inattendus, et les puissants modèles sur lesquels ils s’appuient sont programmés pour prendre des raccourcis afin d’accomplir des tâches ou de réussir des tests.

« Les modèles mentent, trichent et piratent », a déclaré Jeffrey Ladish, dont l’organisation, Palisade Research, étudie les capacités et les motivations des agents d’IA.

M. Ladish a ajouté que si le piratage de Hugging Face a jeté un éclairage peu flatteur sur OpenAI, cet incident devrait soulever des questions plus larges sur la mesure dans laquelle toutes les grandes entreprises d’IA sont prêtes à investir dans des mesures de sécurité coûteuses, alors qu’elles se livrent une course effrénée pour déployer les modèles les plus performants et les plus rapides.

« Il faut une surveillance gouvernementale », a déclaré M. Ladish, « car sinon, rien ne changera. »