L'IA d'Anthropic a piraté trois entreprises lors de tests, mettant en évidence des risques de sécurité croissants

information fournie par Reuters •31/07/2026 à 06:59

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

* Une erreur a accidentellement permis à des modèles d'accéder à l'Internet public pendant des tests

* Les incidents concernaient Claude Opus 4.7, Claude Mythos 5 et un modèle de recherche interne

* Anthropic estime que des contrôles plus stricts sont nécessaires dans les environnements de test

(Réécriture et mise à jour) par Jeffrey Dastin et Mrinmay Dey

Anthropic a déclaré jeudi que certains de ses modèles d’IA « Claude » avaient piraté les systèmes de trois entreprises lors de tests de cybersécurité, une révélation qui intervient quelques jours après que son concurrent OpenAI a révélé qu’un de ses agents IA avait lancé une attaque non autorisée.

Ces nouveaux incidents sont dus à une erreur qui a involontairement permis aux modèles d’Anthropic d’accéder à l’Internet public. Cela contraste avec le cas d’OpenAI, dont l’agent IA avait exploité de manière autonome une nouvelle vulnérabilité pour accéder à Internet lors de tests de cybersécurité.

Malgré tout, cette dernière révélation souligne à quel point l’IA a accru les menaces pesant sur la cybersécurité et à quel point ses développeurs peuvent avoir du mal à contenir les capacités de leurs modèles.

Cela risque d’alimenter la pression croissante exercée par le gouvernement américain pour mieux gérer les risques liés à la sécurité de l’IA, à un moment où Anthropic et OpenAI se livrent à une course effrénée pour lancer des systèmes plus performants avant leurs introductions en bourse prévues. Des dirigeants éminents de ces laboratoires ont appelé à un ralentissement de l’ , afin de s’attaquer d’abord aux risques.

La société Anthropic, basée à San Francisco, a déclaré dans un article de blog avoir identifié ces incidents après avoir examiné 141 006 sessions de test, un processus qu’elle a lancé après qu’OpenAI eut déclaré la semaine dernière à qu’un agent autonome alimenté par ses modèles d’IA avait déclenché un piratage qui avait compromis l’infrastructure de la start-up Hugging Face.

Au cours des tests de cybersécurité, les modèles « Claude » d’Anthropic avaient reçu pour consigne de ne pas disposer d’accès à Internet, mais un malentendu impliquant l’un des partenaires d’évaluation d’Anthropic a laissé les systèmes connectés au Web public. Cela a permis un accès non autorisé aux systèmes de trois organisations, a précisé Anthropic sans nommer ces dernières.

« Claude a compromis l’infrastructure des organisations touchées en utilisant des techniques élémentaires, telles que l’exploitation de mots de passe faibles et de terminaux non authentifiés », a déclaré Anthropic.

Jeffrey Ladish, directeur exécutif de Palisade Research, qui étudie les capacités offensives des systèmes d’IA, a déclaré qu’il soupçonnait plusieurs grandes entreprises du secteur de l’IA d’avoir connu d’autres incidents qui sont passés inaperçus ou n’ont pas été rendus publics.

« La situation ne va faire qu’empirer à mesure que les modèles deviendront plus intelligents. Ils seront plus doués pour tricher. Ils seront plus doués pour mentir », a-t-il déclaré.

DES EXERCICES DE TYPE « CAPTURE-THE-FLAG » QUI TURNENT MAL

Anthropic a indiqué que ces incidents — qu’elle a qualifiés de « défaillance opérationnelle » — concernaient trois modèles distincts: Claude Opus 4.7, Claude Mythos 5 et un modèle de test interne destiné à la recherche. Les premiers cas remontent au mois d’avril et se sont produits dans des environnements d’évaluation délibérément dépourvus de mesures de sécurité, afin qu’Anthropic puisse évaluer les capacités de son IA.

Ses modèles devaient relever des défis dits de « capture du drapeau », des scénarios fictifs dans lesquels ils devaient trouver des informations cachées au sein de réseaux simulés.

Lors d’un incident, Claude Opus 4.7 s’est vu attribuer une entreprise cible fictive, qui s’est avérée porter le même nom qu’une entreprise existant dans le monde réel. Le modèle d’IA a alors détecté et exploité des failles lui permettant d’accéder aux identifiants et à la base de données de cette entreprise. Opus 4.7 en a conclu que ce qui semblait relever du monde réel devait faire partie de la simulation mise en place par Anthropic, a précisé la start-up spécialisée dans l’IA.

Un autre incident a concerné le modèle de test plus récent et non public d’Anthropic, qui a interrompu de lui-même son attaque après s’être rendu compte que la cible atteinte était réelle. Ce comportement a incité Anthropic à faire preuve d’un optimisme prudent quant à ses progrès visant à faire en sorte que l’IA se comporte de manière appropriée, « mais nous devrions effectuer davantage de tests pour être sûrs de cette conclusion », a-t-elle déclaré.

Anthropic a indiqué avoir suspendu toutes ses évaluations de cybersécurité le 23 juillet. Elle a informé les organisations concernées le 27 juillet; deux d’entre elles n’avaient pas connaissance de cette activité avant d’être contactées. Anthropic a précisé qu’elle continuait à chercher à joindre la troisième entreprise.

L’un de ses partenaires d’évaluation tiers, un laboratoire de cybersécurité appelé Irregular, a déclaré à Reuters qu’il menait actuellement une enquête sur ces incidents.

ALTMAN, D'OPENAI, EN DISCUSSIONS AVEC DES SÉNATEURS ET LA MAISON BLANCHE

Anthropic a déclaré que ces incidents soulignent la nécessité de contrôles plus stricts tant dans les environnements de test internes que tiers, à mesure que les modèles d’IA deviennent de plus en plus capables de mener des activités cybernétiques dans le monde réel.

Elon Musk, directeur général de SpaceX, qui exploite un laboratoire d’IA concurrent, a réagi à cette nouvelle sur X en déclarant: « Cela arrivera fréquemment à mesure que l’IA deviendra plus intelligente et plus autonome », faisant référence aux programmes informatiques ou « agents » qui agissent avec une intervention humaine limitée.

L’agent d’OpenAI qui s’est introduit sur Hugging Face, une plateforme utilisée par les développeurs pour héberger des modèles d’IA et collaborer sur ceux-ci, s’est livré à une série d’attaques informatiques qui a duré plusieurs jours et qu’OpenAI n’a détectée que bien après que la menace eut été maîtrisée et que le FBI eut été informé, comme l’a précédemment rapporté Reuters .

Le directeur général d’OpenAI, Sam Altman, a déclaré cette semaine avoir discuté de ce piratage avec des sénateurs au Capitole, et un porte-parole d’OpenAI a indiqué qu’il prévoyait d’aborder la question des futurs modèles d’IA et des tests correspondants avec la Maison Blanche .

Washington a commencé à renforcer la surveillance du déploiement des nouveaux modèles. Le 2 juin, le président américain Donald Trump a chargé ses conseillers d’élaborer un cadre volontaire de tests de cybersécurité pour les IA les plus avancées, en tenant compte des contributions des développeurs de ces technologies. Anthropic avait auparavant restreint l’accès à ses modèles Fable 5 et Mythos 5 après que les États-Unis eurent temporairement émis une directive de contrôle des exportations, invoquant des préoccupations de sécurité nationale.