Selon les équipes d'Anthropic, le modèle IA développé par la start-up américaine aurait montré des capacités inédites pour infiltrer des systèmes informatiques complexes, laissant présager de menaces futures pour la cybersécurité mondiale. Après la surprise, les instances internationales s'organisent pour établir le dialogue et dégager le vrai des fantasmes.
(illustration) ( AFP / JOEL SAGET )
Faut-il redouter un grand soir de l'informatique? Après l'alerte retentissante lancée par Anthropic quant aux capacités de son nouveau modèle IA, l'Union européenne s'inquiète des risques pour la cybersécurité que pourrait poser "Mythos", et a commencé à en discuter avec l'entreprise californienne. "Un nouveau modèle d'IA est sur le point d'être déployé. Il comporte certains risques, et nous avons besoin d'informations à ce sujet. C'est pourquoi nous avons contacté la plateforme Anthropic", a déclaré jeudi 16 avril Thomas Regnier, porte-parole de l'UE sur les questions numériques.
Une première réunion avec l'entreprise s'est déroulée mercredi, a-t-il indiqué. "Nous avons déjà reçu certaines informations et d'autres réunions de suivi auront lieu", a-t-il ajouté, sans donner plus de détails sur ces discussions.
D'après plusieurs médias, des dirigeants de grandes banques américaines ont rencontré le secrétaire au Trésor des Etats-Unis, Scott Bessent, et le président de la Réserve fédérale (Fed), Jerome Powell, pour discuter des dangers que ce modèle d'IA représente pour le secteur financier.
Mythos a révélé une faille "qui dormait depuis 27 ans"
Le gouvernement britannique a quant à lui alerté mercredi les entreprises, dans une lettre ouverte, sur les risques de cybersécurité posés par des modèles d'intelligence artificielle (IA) toujours plus performants, en référence notamment aux dernières créations d'Anthropic et d'OpenAI.
Anthropic a affirmé le 7 avril que M ythos était capable de détecter des failles informatiques inédites à une vitesse et une échelle sans précédent. Et qu'elle avait confié à un consortium d'entreprises de la tech, dont Google, Nvidia, Apple, Microsoft et Palo Alto Networks, la tâche de tester le modèle et de combler les failles avant d'envisager sa publication.
Mythos a ainsi "trouvé une faille qui dormait depuis 27 ans" dans un système informatique fondamentale (BSD), socle d'objets grand public comme l'iPhone ou la Playstation, a raconté Adam Meyers, vice-président de CrowdStrike, également membre de Glasswing. "De nombreux experts avaient scruté ce code pendant des décennies sans la trouver. C'est un signal d'alarme pour toute l'industrie", a-t-il commenté. "Les hôpitaux sont probablement parmi les organisations les moins équipées pour faire face au déluge qui arrive. Ce sont les patients, les voyageurs cloués au sol, les automobilistes en manque de carburant qui vont souffrir", a abondé Kara Sprague, PDG de HackerOne, spécialiste de la détection de failles informatiques.
Critiques de la Maison Blanche
Les tests effectués par l'Institut de sécurité de l'IA du ministère britannique des Sciences, de l'Innovation et de la Technologie "ont montré que ce modèle est nettement plus performant en matière de cyberoffensive que tout autre modèle que nous avons évalué jusqu'à présent", selon la lettre du gouvernement britannique.
L'agitation créée par Mythos a néanmoins trouvé des critiques, notamment du côté de la Maison Blanche et l'administration Trump, en guerre ouverte avec Anthropic, cette dernière étant jugée trop progressiste et menacée de perdre tous ses contrats publics américains, dont le Pentagone. "Il est difficile d'ignorer qu'Anthropic a un historique de tactiques alarmistes", a écrit sur X David Sacks, le conseiller IA numéro 1 de Donald Trump, avant de lister quelques exemples: la description en mai 2025 de comportements préoccupants de Claude, capable de menacer un ingénieur fictif de révéler sa liaison extraconjugale pour ne pas être débranché, ou encore la prédiction de Dario Amodei estimant à 25% la probabilité que le développement de l'IA mène à une "catastrophe existentielle".
Les annonces d'Anthropic s'inscrivent aussi dans un calendrier: les marchés attendent avec impatience l'entrée en bourse envisagée de la start-up, valorisée 380 milliards de dollars à ce jour, ainsi que celle d'OpenAI et de SpaceX. Les trois entreprises technologiques, entourées par les investisseurs comme des poules aux oeufs d'or, sont sous pression pour démontrer leur futur rentabilité, encore loin d'être acquise vu les coûts pharaoniques de la ruée vers l'IA.
1 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer