par AJ Vicens et Eduardo Baptista
Anthropic a annoncé jeudi avoir empêché l'utilisation de son modèle d'intelligence artificielle (IA) Claude dans des projets d'armes biologiques ainsi que dans une campagne présumée d'espionnage informatique liée à la Russie contre l'Ukraine.
Dans son dernier rapport, l'entreprise a également accusé des concurrents chinois d'avoir tenté de pirater ses systèmes afin d'extraire les capacités de Claude.
Ces révélations interviennent alors que la multiplication de tentatives de piratage illégales de l'IA et les inquiétudes exprimées par des experts du secteur renforcent les appels à un encadrement plus strict.
ARMES BIOLOGIQUES, MISSILES ET DRONES
Anthropic affirme craindre depuis longtemps qu'un jour les modèles d'IA ne deviennent suffisamment performants pour aider à rendre certains agents pathogènes plus dangereux ou à en créer de nouveaux.
La société a recensé cinq cas d'utilisation de Claude par des scientifiques susceptibles de contribuer au développement d'armes biologiques.
Dans l'un des cas, un chercheur a contourné les restrictions géographiques d'Anthropic pour utiliser Claude afin de planifier des expériences destinées à adapter le virus de la grippe aviaire aux mammifères.
Claude n'est pas officiellement disponible dans plusieurs pays, dont la Russie, la Chine et la Corée du Nord.
Après avoir détecté ces utilisations, l'entreprise a fermé les comptes concernés et intégré les enseignements tirés de ces affaires à ses dispositifs de sécurité et de surveillance.
Anthropic indique également avoir identifié de nouveaux types d'utilisateurs malveillants ayant recours à Claude pour développer des logiciels destinés à des armes conventionnelles, notamment des armes à feu, missiles, drones armés ou explosifs, ainsi que les systèmes de ciblage et de contrôle associés.
Le rapport évoque des opérateurs basés en Chine, en Russie et au Yémen ayant utilisé Claude pour concevoir des logiciels liés au développement d'armes ou pour soutenir des activités de renseignement et d'approvisionnement au profit de programmes d'armement.
Selon Jacob Klein, responsable du renseignement sur les menaces chez Anthropic, les progrès rapides des modèles d'IA accroissent les risques.
"Il y a un an, si vous vouliez optimiser un drone ou le logiciel d'un missile, les modèles n'étaient tout simplement pas aussi performants qu'ils le sont aujourd'hui", a-t-il déclaré à Reuters.
CAMPAGNE D'ESPIONNAGE RUSSE CONTRE L'UKRAINE
Anthropic a constaté que les cybercriminels et pirates informatiques soutenus par des États recouraient de plus en plus à l'IA pour automatiser une grande partie de leurs opérations, les opérateurs humains se limitant à un rôle de supervision.
Il indique qu'un groupe de pirates a mené des campagnes d'hameçonnage, de détournement de réseaux Wi-Fi d'hôtels et de prise de contrôle de comptes WhatsApp visant des responsables gouvernementaux, militaires et diplomatiques ukrainiens, en s'appuyant sur l'IA à presque toutes les étapes de ses opérations.
Selon Anthropic, ce groupe a utilisé l'IA pour mettre au point un système capable de détecter lorsque ses logiciels malveillants étaient repérés par des outils de sécurité, puis de réécrire le code jusqu'à contourner ces défenses.
L'entreprise a par ailleurs indiqué avoir détecté et interrompu des activités liées à des affiliés du collectif ShinyHunters, considéré comme l'un des groupes de cybercriminalité les plus actifs au monde.
TENTATIVES CHINOISES POUR REPRODUIRE CLAUDE
Anthropic a déclaré avoir déjoué des tentatives menées par sept laboratoires chinois d'intelligence artificielle, dont Alibaba 9988.HK , Moonshot, DeepSeek et Xiaomi 1810.HK , ayant pour but de reproduire les capacités de Claude.
Les entreprises n'ont pas immédiatement répondu à une demande de commentaire.
Des opérateurs liés à Alibaba sont à l'origine de ce qu'elle qualifie de plus vaste opération de "distillation" illicite visant à copier les capacités de Claude afin d'améliorer les modèles Qwen du groupe chinois, selon Anthropic.
Entre mai et juillet 2026, l'entreprise indique avoir observé plus de 151 millions d'interactions attribuées à Alibaba, avec un pic de près de trois millions par jour.
La distillation consiste à entraîner des modèles d'IA plus petits à partir des réponses générées par des modèles plus puissants afin de réduire les coûts de développement.
Anthropic indique également que Moonshot, créateur du chatbot Kimi, ainsi que DeepSeek, ont fait transiter des conversations de clients en temps réel, parfois contenant des informations sensibles, par Claude avant d'utiliser ses réponses comme données d'entraînement.
Interrogé sur ces accusations, le ministère chinois des Affaires étrangères a déclaré ne pas avoir connaissance du rapport d'Anthropic, ajoutant que Pékin prônait un développement de l'IA au service du bien commun et s'opposait à toute déformation des faits ou campagne de dénigrement visant la Chine.
(Rédigé par Prathik Jayaprakash à Bengaluru, AJ Vicens à Détroit, Karen Freifeld à New York et Eduardo Baptista à Pékin; version française par Aleksandra Kret, édité par Benoit Van Overstraeten)
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer