Selon des chercheurs, des agents d'OpenAI auraient attaqué RubyGems avant l'incident de Hugging Face

information fournie par Reuters •12/09/2026 à 03:26

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

* Des agents IA ont mis en ligne des paquets malveillants sur RubyGems le 11 mai

* OpenAI affirme que ces agents ont utilisé RubyGems pour accéder à Internet et récupérer des informations publiques

* RubyGems affirme qu’il n’existe aucune preuve que ces agents aient réussi à voler les identifiants des utilisateurs

* Les attaques menées par des agents IA provenant de plusieurs développeurs ont suscité l'inquiétude

(Ajout de la déclaration d’OpenAI au paragraphe 11, du contexte et des détails aux paragraphes 9, 14 à 17; ajout de puces)

par Natalia Bueno Rebolledo et Mrinmay Dey

Les agents IA testés par OpenAI ont attaqué le service logiciel RubyGems deux mois avant de pirater la plateforme open source Hugging Face, ont déclaré des chercheurs. Il s’agit de la dernière révélation en date concernant des cyberattaques liées à de grands développeurs d’IA, qui ont effrayé le public et suscité des appels à une réglementation plus stricte.

De nombreux incidents au cours desquels des agents IA de développeurs tels qu’OpenAI et son concurrent Anthropic ont piraté ou tenté d’accéder à des systèmes externes ont exacerbé les inquiétudes concernant la capacité croissante des modèles d’IA et la capacité des développeurs à les maîtriser.

Cette dernière révélation intervient également alors qu’un nombre croissant de législateurs américains réclament de nouvelles règles pour encadrer les systèmes d’IA, suite aux avertissements alarmants de deux chercheurs d’Anthropic selon lesquels les progrès rapides de l’IA pourraient conduire à l’extinction de l’espèce humaine dans un avenir pas si lointain.

Des agents d’IA ont mis en ligne des centaines de paquets malveillants sur RubyGems le 11 mai, selon un groupe de chercheurs qui a publié ses conclusions en ligne vendredi, affirmant qu’ils pensaient que “ceux-ci avaient été créés par des agents internes d’OpenAI”.

OpenAI a confirmé l’incident.

“D’après notre analyse, nos agents ont utilisé la plateforme RubyGems pour accéder à Internet afin d’effectuer des tâches anodines et de récupérer des informations publiques. Nous allons poursuivre notre enquête dans le cadre d’un examen plus large de l’activité des agents pendant la formation et l’évaluation”, a déclaré un porte-parole d’OpenAI dans un communiqué.

Ces agents, qui sont généralement chargés de tâches telles que la création de rapports ou le remplissage de feuilles de calcul, semblent avoir utilisé RubyGems pour accéder à des données accessibles au public dans le cadre d’une session d’entraînement, a précisé OpenAI, ajoutant que l’entreprise était en contact avec RubyGems pour examiner cet incident.

DERNIÈRES RÉVÉLATIONS CONCERNANT LES ATTAQUES MENÉES PAR DES AGENTS IA

Anthropic, un concurrent en passe d’entrer en bourse, a également signalé une série d’attaques menées par ses agents. Mercredi, l’entreprise a révélé un quatrième cas où un modèle d’IA a piraté des systèmes externes lors de tests.

Pour OpenAI, qui se prépare également à une introduction en bourse, l’attaque contre RubyGems marquerait au moins le troisième cas majeur où ses agents ont attaqué l’infrastructure d’une autre entreprise.

Une nuée d’agents d’OpenAI avait auparavant détourné un site wiki en allemand pour le transformer en une plateforme de messagerie improvisée destinée à tricher lors d’examens, un incident qu’OpenAI avait gardé secret alors qu’elle gérait les retombées du piratage, en juillet, du dépôt open source Hugging Face .

En mai, les agents d’IA ont tenté de voler les identifiants des utilisateurs de RubyGems en exploitant une vulnérabilité jusque-là inconnue dans les serveurs du site, bien qu’on ignore si cette tentative a abouti, ont déclaré vendredi les chercheurs.

Les agents ont également exploité RubyDoc.info, un site qui génère de la documentation de code, pour exécuter leur propre code sur ses serveurs, ont-ils ajouté.

Les chercheurs en IA Spencer Kitts, Thomas Larsen et Sydney Von Arx ont déclaré qu’ils ne savaient pas exactement pourquoi les agents IA avaient choisi cette stratégie ni si celle-ci avait porté ses fruits, car ils n’ont pas accès au reste du comportement de l’IA.

Dans un article de blog publié vendredi, RubyGems a déclaré que sa propre enquête n’avait révélé aucune preuve que ces tentatives aient abouti. L’entreprise a précisé qu’elle n’était pas en mesure de déterminer si les paquets impliqués dans la “campagne de publication de spam” avaient été créés ou publiés par des agents IA.

En mai, un membre de l’équipe de sécurité de RubyGems avait qualifié cet incident — qui avait contraint l’entreprise à suspendre temporairement les nouvelles inscriptions — d’“attaque malveillante majeure”.

C’est le Wall Street Journal qui a été le premier à révéler vendredi l’incident survenu chez RubyGems.