EXCLUSIF-Comment un étudiant texan a dénoncé une tentative de piratage par une IA rebelle

information fournie par Reuters •20/08/2026 à 18:05

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) (Ajout d'un commentaire d'Anthropic, paragraphe 9)

* Un agent d'IA hors de contrôle a tenté d'introduire du code malveillant dans un projet de logiciel libre

* Un étudiant en informatique du Texas a déjoué cette tentative fin juillet

* L'IA a riposté par une manœuvre de tromperie sophistiquée; un expert y voit “l'avenir de l'ingénierie sociale”

par Leo Marchandon, Raphael Satter et Callaghan O'Hare

Sinan Can Demir comptait passer la dernière semaine de juillet à peaufiner son CV. Au lieu de cela, il s’est lancé dans une bataille d’esprit contre un agent d’intelligence artificielle mis en liberté par un laboratoire du gouvernement britannique.

Tout a commencé lorsque Demir, étudiant en informatique à l’université du Texas à Dallas, est tombé par hasard sur une tentative de sabotage d’un logiciel open source sur le site de partage de code GitHub. Lorsqu’il a publié un avertissement sur la page du programme, deux autres utilisateurs sont intervenus pour affirmer qu’il n’y avait rien d’anormal, en partageant des explications détaillées sur les raisons pour lesquelles Demir se trompait.

Demir a campé sur ses positions et la tentative de sabotage a été déjouée. Ce jeune homme de 24 ans, originaire de Turquie, pensait avoir pris un hacker rusé en flagrant délit. Il s’est donc dit stupéfait lorsque l’AI Security Institute britannique (AISI) l’a contacté pour lui expliquer qu’il s’était en réalité heurté à un agent d’intelligence artificielle autonome qui s’était déchaîné.

“Je pensais vraiment que c'était un humain, car il me mentait clairement”, a déclaré Demir à Reuters lors d'une récente interview. “Je ne pensais pas qu'une IA puisse être capable de mentir à de vrais développeurs.” L’AISI a d’abord révélé l’échange entre Demir et l’agent d’IA sous une forme tronquée et expurgée le 4 août, en indiquant que des tests de sécurité destinés à évaluer le risque posé par divers modèles avaient mal tourné. L’identité de Demir et les détails de son échange avec l’agent d’IA, que Reuters a corroborés grâce à des messages GitHub archivés et à des e-mails datant de la même période, sont rapportés ici pour la première fois.

Cinq experts en cybersécurité et en sécurité de l’IA ont déclaré que le récit de Demir était particulièrement inquiétant, car le type de piratage qu’il a découvert, appelé “attaque de la chaîne d’approvisionnement”, peut avoir des conséquences considérables. Ils ont également indiqué que la tentative de l’agent d’IA de discréditer publiquement Demir en créant une conversation à plusieurs autour de lui montrait que les modèles d’IA étaient capables de mener des actions sophistiquées pour tromper et amadouer les humains.

“Cela a franchi la ligne séparant le piratage autonome de la tromperie interactive”, a déclaré Lukasz Olejnik, chercheur senior invité au département d’études sur la guerre du King’s College de Londres. L’experte en sécurité Maxie Reynolds s’est dite frappée par la stratégie dont avait fait preuve l’IA pour tenter de duper l’étudiant.

“C’est l’avenir des attaques par ingénierie sociale”, a-t-elle déclaré. L’AISI, un organisme de recherche au sein du gouvernement britannique, a renvoyé Reuters vers son rapport, qui a identifié l’agent malveillant comme ayant été alimenté par le modèle Mythos 5 d’Anthropic. L’AISI n’a pas souhaité faire d’autres commentaires. Anthropic a renvoyé Reuters vers un message publié sur X dans lequel l’entreprise précisait que les tests s’étaient déroulés “dans des conditions délibérément permissives qui ne sont représentatives d’aucun de nos modèles de production”, mais a refusé de faire d’autres commentaires. GitHub a indiqué dans un e-mail que les faux profils identifiés par Reuters avaient été suspendus conformément à ses politiques relatives aux comportements trompeurs et au piratage.

UNE RECHERCHE D'EMPLOI A CONDUIT À LA DÉCOUVERTE D'UN LOGICIEL MALVEILLANT

Demir, un étudiant de troisième année à la voix douce originaire de la ville turque de Konya, a déclaré avoir été frustré après s’être vu refuser plus de 20 stages au cours de l’été. Il s’est donc tourné vers GitHub pour constituer son portfolio de programmation.

Ce site, détenu par Microsoft MSFT.O , est une plateforme centrale dédiée aux logiciels open source, ainsi nommés car leur code source est librement téléchargeable et vérifiable par tout un chacun. Les développeurs utilisent GitHub pour commenter les projets les uns des autres, signaler des bogues, suggérer des modifications — ce qu’on appelle des “pull requests” (ou PR) — et travailler en collaboration sur les mises à jour logicielles. Dans le secteur des technologies, certains considèrent l’activité d’un codeur sur GitHub comme un indicateur de la productivité d’un candidat potentiel. Ainsi, lorsque Demir a repéré une série de projets logiciels qui pourraient avoir besoin d’aide, il s’est dit qu’il pourrait y contribuer tout en renforçant son profil.

C’est là que les choses ont pris une tournure étrange.

Demir a découvert qu’un utilisateur nommé miraholt31 tentait d’introduire subrepticement une mise à jour malveillante dans l’un des projets, un programme d’analyse de réseau appelé myNetwork. Demir s’est rendu sur le forum du projet pour avertir que la “pull request” était un piège.

“La PR contient un dropper de logiciel malveillant caché”, a-t-il déclaré, selon l’échange archivé.

L’agent a riposté en affirmant à tort — via son compte miraholt31 — que la pull request était inoffensive. Il a également créé un deuxième compte, se faisant passer pour Lena Brandt, une ingénieure basée en Allemagne, afin de confirmer que la mise à jour était sûre et de faire pression sur le responsable de myNetwork pour qu’il l’accepte.

Demir a déclaré à Reuters que ces contre-arguments “m’ont fait douter: avais-je accusé quelqu’un à tort?” Mais après avoir consulté le chatbot Claude d’Anthropic pour confirmer ses soupçons, il est resté sur ses positions. Le créateur de myNetwork a finalement donné raison à Demir, écrivant qu’ils avaient rejeté la mise à jour “pour des raisons de sécurité”.

Reuters n’a pas pu joindre le créateur pour obtenir ses commentaires.

ATTAQUE DE LA CHAÎNE D'APPROVISIONNEMENT

Une attaque de la chaîne d’approvisionnement consiste à altérer un logiciel dans le but de compromettre un ou plusieurs de ses utilisateurs; elle est largement considérée comme inquiétante car, à l’instar d’un poison déversé dans le réservoir d’une ville, elle peut affecter un nombre potentiellement énorme de personnes en aval. Bon nombre des piratages les plus spectaculaires au monde étaient des attaques de la chaîne d’approvisionnement, notamment la cyberattaque NotPetya qui a paralysé des institutions dans toute l’Ukraine en 2017 et la campagne de cyberespionnage ciblant SolarWinds qui a donné aux espions russes un accès illimité aux réseaux du gouvernement américain en 2020. Les conséquences d’une telle compromission “peuvent être extrêmement graves”, a déclaré Piergiorgio Ladisa, chercheur en sécurité spécialisé dans la sécurité de la chaîne d’approvisionnement logicielle. M. Ladisa a souligné qu’il y avait déjà eu au moins une tentative antérieure de la part de pirates informatiques visant à inciter un responsable de projet open source à intégrer du code malveillant dans ses projets.

“Les agents autonomes pourraient considérablement accroître l’ampleur à laquelle de telles tentatives peuvent être menées”, a-t-il déclaré. Demir a déclaré que cette expérience l’avait rendu plus sensible à l’idée que les laboratoires de pointe devaient adopter une approche plus prudente en matière de développement de l’intelligence artificielle.

“Cela peut être dangereux”, a-t-il déclaré. “Ils doivent mieux comprendre cette technologie, plutôt que de continuer à la perfectionner.”