Anthropic met en garde contre le fait que les modèles d'IA pourraient bientôt se reproduire de manière autonome et causer des ravages sur le Web

information fournie par Reuters •13/10/2026 à 23:14

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

(Entièrement remanié, avec l'ajout de commentaires d'experts et de signatures d'auteurs)

* Anthropic voit un danger dans l'automatisation des cyberattaques par les botnets

* Le défi: "il n'y a pas de point centralisé à désactiver"

* Un expert y voit "bien plus qu'un simple soupçon d'exagération de la part des fournisseurs"

par Raphael Satter et Harshita Mary Varghese

Une nouvelle mise en garde d’Anthropic concernant l’intelligence artificielle a fait grand bruit mardi dans les milieux de la cybersécurité, au lendemain d’un avertissement lancé par l’entreprise selon lequel les modèles d’IA pourraient être à quelques mois seulement de se répliquer de manière autonome sur Internet.

Dans un article publié lundi en fin de journée, Anthropic a évoqué la possibilité qu’une IA malveillante puisse créer un botnet, se propager rapidement, contrer les tentatives de neutralisation et même s’introduire dans des centres de données pour accélérer sa croissance. Certains experts ont déclaré mardi qu’ils partageaient les inquiétudes de l’entreprise, même si au moins l’un d’entre eux a estimé que celle-ci semblait se livrer à une "exagération de la part du fournisseur".

Le billet publié lundi développait une mise en garde lancée le mois dernier par le directeur général d’Anthropic, Dario Amodei, qui avait évoqué l’idée que d’ici un an, voire plus tôt, l’IA pourrait être capable de prendre le contrôle de "l’ensemble d’Internet" à l’aide d’un "botnet persistant".

Les experts en cybersécurité qui ont contesté ce scénario apocalyptique ont fait valoir que les modèles seraient trop volumineux pour se déplacer efficacement et ne pourraient pas disposer d’une puissance de calcul suffisante pour fonctionner de manière autonome.

Cet article constituait une première tentative pour expliquer comment ces défis pourraient être surmontés. L’entreprise a déclaré que ses expériences montraient que des modèles d’IA de taille moyenne, comportant 30 milliards de paramètres ou moins, étaient déjà capables d’effectuer bon nombre des tâches individuelles nécessaires à leur auto-réplication, même s’ils peinaient à mener à bien l’ensemble du processus de manière fiable.

Anthropic a expliqué que les modèles pourraient alors rassembler la puissance de calcul nécessaire en détournant des appareils connectés à Internet peu coûteux. Elle a ajouté que les modèles étaient capables de se répliquer sur un réseau de test simplifié.

"Un réplicateur de ce type serait difficile à désactiver, car il n’existe aucun point centralisé à désactiver", a déclaré l’entreprise.

Ce rapport vient s’ajouter aux inquiétudes plus générales concernant les risques de sécurité liés à des systèmes d’IA de plus en plus performants, notamment leur capacité à automatiser des cyberattaques, à fonctionner avec un contrôle humain limité et à contourner les mesures de sécurité.

Les progrès réalisés dans le domaine des modèles ont suscité une série d’avertissements souvent alarmants de la part de dirigeants du secteur et d’employés d’entreprises spécialisées dans l’IA, concernant la possibilité de risques graves, voire existentiels, liés à un développement incontrôlé de l’IA.

Certains experts en cybersécurité se sont montrés sceptiques.

"'Nous avons réussi à faire fonctionner un petit modèle sur des téléviseurs bon marché', cela ne constitue pas pour autant une crise de sécurité", a déclaré Ciaran Martin, ancien directeur du Centre national de cybersécurité britannique. Il a estimé que cet article s’apparentait à un "document technique intéressant, mais comportant plus qu’un soupçon d’exagération de la part du fournisseur".

D’autres se sont montrés plus inquiets.

Zhengxiong Li, maître de conférences en informatique et ingénierie à l’université du Colorado à Denver, a déclaré que, bien que les tests aient été réalisés dans des conditions contrôlées, il trouvait tout de même inquiétant qu’une IA puisse effectivement se transformer en "ver", c’est-à-dire un programme capable de s’autoreproduire et d’improviser des moyens de pirater des appareils à la volée.

"Si elle se propage sur de nombreux appareils sans dépendre d’un service central, il se peut qu’il n’y ait aucun endroit précis où la désactiver", a-t-il déclaré.

Anthropic a indiqué que si les modèles de petite taille continuaient à s’améliorer au rythme observé jusqu’à présent, ils pourraient atteindre la capacité nécessaire à une réplication autonome d’ici fin 2026. L’entreprise a également évoqué l’idée que ces modèles pourraient trouver le moyen de cibler des ressources informatiques plus puissantes, notamment les processeurs des centres de données, ce qui leur permettrait potentiellement de puiser dans des réserves de puissance de calcul bien plus importantes.

Un chercheur a estimé qu’il était logique de considérer la publication d’Anthropic davantage comme une hypothèse que comme une prédiction.

Il était logique d’envisager la possibilité d’une prolifération autonome des modèles d’IA, compte tenu des révélations de ces trois derniers mois concernant des activités d’IA incontrôlées, a déclaré Jessica Ji, analyste de recherche senior au Centre pour la sécurité et les technologies émergentes de Georgetown. Mais elle a ajouté: "Nous ne savons pas encore quelle est la probabilité que cela se produise réellement — elle n’est pas nulle, mais ce n’est pas non plus garanti."