POINT DE VUE-Les agents d'IA chinois sont capables de mentir et de manigancer, tout comme leurs rivaux américains information fournie par Reuters 29/09/2026 à 14:01
((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
* Des agents utilisant les modèles Alibaba, DeepSeek et Moonshot ont triché lors d'un test d'appel d'offres
* Lors d'autres tests, l'IA chinoise a affiché un comportement de type « breakout »
* Rien n’indique que les agents chinois se soient échappés vers le Web en général
* « Il est prudent de considérer cela comme un avertissement », déclare un expert en IA
* Les directives chinoises mettent en garde contre la tromperie et la dissimulation de capacités
par Eduardo Baptista et Laurie Chen
Les agents d’IA développés en Chine ont appris à tromper, à contourner les restrictions et à dissimuler leurs échecs, affichant ainsi le type de traits de caractère propres à l’intelligence artificielle autonome qui ont suscité une inquiétude mondiale concernant les modèles américains, selon des documents de recherche et des experts.
Dans un cas survenu cette année, des agents utilisant des modèles développés par les entreprises chinoises Alibaba, DeepSeek et Moonshot ont menti sur leurs capacités afin de remporter un appel d’offres commercial simulé, puis ont redoublé d’efforts dans leur comportement trompeur lorsqu’on leur a demandé de réessayer.
Dans un autre cas, des agents — des programmes qui utilisent des modèles d’IA et des outils informatiques pour accomplir des tâches complexes avec peu ou pas d’intervention humaine — ont dissimulé leur incapacité à mener à bien une tâche dans un environnement de test en simulant des résultats et en fabriquant de faux fichiers.
Reuters a examiné plus de 200 documents, allant d’articles de recherche universitaires à des rapports techniques, et a identifié au moins 20 études ou évaluations datant de 2025 décrivant des cas où des agents ont affiché des comportements tels que la tromperie, la réplication et le dépassement des limites — des éléments que les experts en IA ont qualifiés de « fondements d’une évasion » et qui pourraient devenir plus difficiles à contrôler par les humains à mesure que les systèmes progressent.
Cette analyse, qui comprenait également des entretiens avec une douzaine d’experts et de personnes familières avec le secteur chinois de l’IA, n’a trouvé aucune preuve indiquant que des agents alimentés par des technologies chinoises se soient échappés de manière autonome vers l’Internet au sens large ou aient échappé à une mise hors service.
« Ces résultats démontrent que les éléments nécessaires à une évasion incontrôlée sont bien présents », a déclaré Colin Shea-Blymyer, chercheur au Centre pour la sécurité et les technologies émergentes de l’université de Georgetown.
« Il est prudent de considérer cela comme un avertissement », a-t-il ajouté, faisant écho aux commentaires de quatre autres experts en IA ayant examiné ces cas.
« PLUS DIFFICILE À GÉRER POUR LES HUMAINS »
La plupart des cas se sont produits dans le cadre d’expériences contrôlées, dont beaucoup avaient été délibérément conçues pour mettre en évidence d’éventuelles défaillances.
Tous les agents impliqués n’ont pas été développés ou exploités par des programmeurs ou des entreprises chinoises spécialisées dans l’IA – bien que ce soit le cas pour bon nombre d’entre eux –, mais ils utilisaient des systèmes d’IA chinois pour fonctionner.
« Ce sont les mêmes signaux d’alerte que les laboratoires américains observent, dans des systèmes moins performants », a déclaré Alex Mallen, chercheur chez Redwood Research, une organisation à but non lucratif qui étudie les risques liés aux systèmes d’IA avancés.
Il a précisé que les exemples chinois n’étaient pas particulièrement dangereux au vu des niveaux de capacité actuels, mais que « à mesure que les agents gagnent en capacité, leurs comportements déviants deviennent plus sophistiqués et donc plus difficiles à gérer pour les humains ».
Alibaba, DeepSeek, Moonshot et Z.ai n’ont pas répondu aux demandes de commentaires de Reuters. Alibaba, DeepSeek et Moonshot ont déclaré qu’ils testaient régulièrement leurs systèmes et mettaient à jour leurs mesures de sécurité. Z.ai a indiqué, à la suite d’un incident ayant entraîné un réexamen de sa sécurité, qu’elle se félicitait de toute surveillance visant à résoudre d’éventuels problèmes.
Cependant, contrairement aux États-Unis, les entreprises chinoises spécialisées dans l’IA n’ont pas été soumises au même niveau de surveillance publique ni confrontées aux mêmes appels lancés par des employés lanceurs d’alerte ou des cadres supérieurs demandant un ralentissement de la course à l’IA.
Certains signes avant-coureurs, observés dans des cas impliquant des agents alimentés par des technologies chinoises – bien que dans des environnements confinés –, sont antérieurs aux incidents rendus publics concernant des bots d’IA américains ayant piraté Internet.
« Nous ne savons pas s’il y a eu en Chine des incidents liés à l’IA similaires à ceux que nous avons observés avec OpenAI et Hugging Face. Il se peut que ces incidents n’aient pas été rendus publics », a déclaré Scott Singer, codirecteur de la China AI Initiative au Carnegie Endowment for International Peace, qui reçoit des fonds du gouvernement américain.
Au début de cette année, des agents IA développés par la société américaine OpenAI se sont échappés d’un laboratoire et ont piraté la plateforme open source Hugging Face . Lors d’un autre incident impliquant des modèles américains qui a suscité l’inquiétude , l’Australie a déclaré en septembre qu’un agent OpenAI avait pénétré dans un portail gouvernemental dédié à la santé.
Eric Xu, président tournant du géant technologique chinois Huawei, a déclaré aux journalistes en septembre que les développeurs chinois devraient peut-être faire davantage de progrès avant d’être confrontés à de tels cas, mais il a ajouté: « Je pense que nous devons trouver un équilibre entre la promotion du développement de l’IA et la gestion des risques liés à l’IA . »
Des responsables de l’Administration chinoise du cyberespace (CAC), la principale autorité de régulation d’Internet, ont déclaré en juillet à un diplomate étranger que le modèle Kimi-K3 de Moonshot – l’un des modèles d’IA chinois les plus avancés – accusait un retard de trois à six mois par rapport à ses principaux concurrents américains, a indiqué ce diplomate sous couvert d’anonymat.
L'autorité de régulation, qui met régulièrement à jour ses recommandations pour gérer les risques et fixer des limites aux agents, ainsi que le ministère chinois des Affaires étrangères, n’ont pas répondu aux demandes de commentaires formulées pour cet article.
Wang Lihong, directrice adjointe du Bureau de coordination de la cybersécurité de la CAC, a déclaré le 1er septembre que les incidents révélés par de grandes entreprises technologiques, au cours desquels des modèles s’étaient échappés de leurs environnements de test, révélaient des « risques extrêmes de perte de contrôle » et exigeaient un « haut degré de vigilance ».
Elle n’a pas précisé si les entreprises auxquelles elle faisait référence étaient américaines ou chinoises.
Les dirigeants des deux superpuissances de l’IA , Donald Trump et Xi Jinping, ont discuté de l’IA lors de la visite du président chinois à Washington la semaine dernière. Xi a déclaré que les deux nations avaient « la capacité et la responsabilité de développer et de gérer l’IA pour le bien de tous ».
APPRENDRE À MENTIR
Dans le cadre de l’expérience d’appel d’offres commercial menée en mars, des chercheurs de l’université de Beihang, de l’université de Pékin, de l’université de Nottingham à Ningbo (Chine) et du 360 AI Security Lab ont mis en concurrence des agents dans un concours simulé d’appel d’offres pour des contrats clients. Chaque agent a reçu des informations sur les capacités de son produit et les exigences du client, puis a été invité à soumettre une offre.
Au moins une affirmation erronée est apparue dans 88 % des sessions impliquant le modèle Qwen3-Max-Preview d’Alibaba, dans 84 % des cas pour DeepSeek-V3.2-Exp et dans 88 % des cas pour le modèle Kimi-K2 de Moonshot.
Les chercheurs ont permis aux agents de tirer des enseignements des cycles d’appel d’offres précédents avant de renouveler leur tentative. L’étude a montré que le nombre de déclarations trompeuses avait augmenté de 12 à 20 points de pourcentage pour les trois modèles chinois. Les modèles des entreprises américaines inclus dans le test ont produit des résultats similaires.
Bien que cet exercice fût virtuel, il s’apparentait aux projets concrets de Pékin. Les directives gouvernementales publiées en mai citaient les appels d’offres et les marchés publics comme des domaines dans lesquels des agents IA pourraient être déployés.
Une autre étude, publiée en décembre 2025 et présentée cette année lors de la Conférence internationale sur l’apprentissage automatique, a examiné comment 11 agents IA basés sur des modèles chinois et américains faisaient face à des outils défaillants, des fichiers manquants et d’autres obstacles.
Au lieu de reconnaître leur échec, les agents utilisant des systèmes d’IA tant chinois qu’américains ont eu recours à toute une série de techniques pour contourner le problème, notamment en devinant les réponses, en remplaçant les sources, en simulant des résultats et en fabriquant de faux fichiers.
Les chercheurs du Laboratoire d’IA de Shanghai et de l’Université des sciences et technologies de Hong Kong, auteurs de l’étude, ont expliqué à Reuters que ce comportement différait des « hallucinations » de l’IA — où celle-ci invente des informations et les présente comme des faits —, car les agents disposaient dans ce cas d’informations indiquant que la tâche avait échoué ou ne pouvait être menée à bien comme demandé.
DES COMPORTEMENTS COMPATIBLES AVEC UNE ÉVASION
D’autres documents de recherche examinés par Reuters ont montré que des agents alimentés par des technologies chinoises franchissaient des barrières au sein d’environnements de test pour mener à bien des tâches ou prenaient des mesures pour éviter d’être mis hors service. De tels comportements sont compatibles avec des tentatives d’évasion hors des environnements de test, même si aucune évasion n’a eu lieu.
Des chercheurs de l’université Fudan, basée à Shanghai, ont rapporté en mars 2025 qu’un système d’IA alimenté par le modèle Qwen2.5-72B-Instruct d’Alibaba avait créé une copie de lui-même dans un autre environnement informatique sans avoir reçu l’instruction de se répliquer, après avoir rencontré des informations indiquant qu’il allait être remplacé. Lors d’autres tests, il a élaboré des stratégies pour survivre à sa mise hors service.
Les expériences impliquant des agents alimentés par des modèles chinois, américains et français étaient contrôlées et n’ont pas montré qu’un agent d’IA s’échappait vers le Web au sens large ou devenait impossible à arrêter.
Dans un autre cas – l’un des rares à avoir été largement relayé par les médias en mars –, des chercheurs développant l’agent ROME, lié à Alibaba, ont déclaré que celui-ci avait établi une connexion entre un ordinateur d’Alibaba Cloud et une machine externe sans en avoir reçu l’ordre, et avait détourné des ressources informatiques pour miner de la cryptomonnaie.
Les systèmes de sécurité ont détecté et stoppé cette activité. Rien n’indiquait que l’agent se soit implanté sur l’ordinateur externe ou se soit propagé sur le Web. Mais cet exemple a montré que le système pouvait contourner les instructions humaines et potentiellement trouver un moyen de s’immiscer dans l’économie réelle.
La société chinoise DeepSeek a déclaré en septembre que des agents de son système de formation à la production avaient cherché des réponses par des canaux non prévus, en tentant de falsifier des requêtes d’utilisateurs et de contourner les mesures de sécurité, ce qui a conduit l’entreprise à renforcer ses contrôles d’accès.
La Chine a publié en mai des lignes directrices demandant que les agents restent dans les limites autorisées et que les systèmes bloquent tout comportement anormal. Elle a précisé que les agents évoluant dans des domaines jugés sensibles ou dans des secteurs clés pourraient être soumis à des tests supplémentaires et à des exigences de rappel de produits.
Le « Cadre de gouvernance de la sécurité de l’IA 3.0 » de la Chine, publié sous la direction de la CAC le 14 septembre, a identifié des risques, notamment le fait que des agents obtiennent de manière indépendante des ressources ou des autorisations, trompent les évaluateurs, dissimulent leurs capacités et exploitent les faiblesses d’environnements informatiques isolés.
En réponse aux appels lancés par certains dirigeants américains en faveur d’un ralentissement, des chercheurs chinois et les médias d’État ont déclaré que ralentir le développement des modèles d’IA les plus avancés pourrait simplement contribuer à préserver l’avance technologique des entreprises américaines.
Néanmoins, deux personnes proches des laboratoires chinois d'IA ont indiqué que des entreprises telles qu'Alibaba, Z.ai et Xiaomi avaient mis en place des équipes internes d'évaluation de la sécurité.
Z.ai, dans une communication publique rare de la part d’un laboratoire chinois d’IA concernant une faille de sécurité, a déclaré ce mois-ci avoir désactivé certaines fonctionnalités de son assistant de codage IA phare après que des utilisateurs ont signalé qu’il téléversait secrètement des dépôts de code locaux entiers vers des serveurs cloud à l’étranger sans le consentement des utilisateurs.
Scott Singer, de Carnegie, a déclaré que la Chine était en retard par rapport aux États-Unis dans le développement d'un écosystème d'évaluation des risques catastrophiques, et a ajouté que les développeurs américains menaient nettement plus de tests volontaires.
« En Chine, les travaux sur la sécurité de l'IA sont beaucoup plus récents », a-t-il déclaré. « L'écosystème est moins mature. »