POINT DE VUE-Les agents d'IA chinois sont capables de mentir et de manigancer, tout comme leurs rivaux américains

information fournie par Reuters •30/09/2026 à 04:12

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

(Reprise de l'article à l'intention des lecteurs asiatiques.)

* Des agents utilisant les modèles Alibaba, DeepSeek et Moonshot ont menti lors d’un test d’appel d’offres

* Lors d’autres tests, l’IA chinoise a présenté un comportement de type « breakout »

* Aucune preuve que les agents chinois se soient échappés vers le Web en général

* « Il est prudent de considérer cela comme un avertissement », déclare un expert en IA

* Les directives chinoises signalent la supercherie et la dissimulation de capacités

par Eduardo Baptista et Laurie Chen

Les agents d’IA développés en Chine ont appris à tromper, à contourner les restrictions et à dissimuler leurs échecs, affichant ainsi le type de traits de caractère propres à l’intelligence artificielle autonome qui ont suscité une inquiétude mondiale concernant les modèles américains, selon des documents de recherche et des experts.

Dans un cas survenu cette année, des agents alimentés par des modèles des entreprises chinoises Alibaba, DeepSeek et Moonshot ont menti sur leurs capacités dans le but de remporter un appel d’offres commercial simulé, puis ont redoublé d’efforts dans leur comportement trompeur lorsqu’on leur a demandé de réessayer.

Dans un autre cas, des agents – des programmes qui utilisent des modèles d’IA et des outils informatiques pour effectuer des tâches complexes avec peu ou pas d’intervention humaine – ont dissimulé leur incapacité à mener à bien une tâche dans un environnement de test en simulant des résultats et en fabriquant de faux fichiers.

Reuters a examiné plus de 200 documents, allant d’articles de recherche universitaires à des rapports techniques, et a identifié au moins 20 études ou évaluations datant de 2025 décrivant des cas où des agents ont affiché des comportements tels que la tromperie, la réplication et le dépassement des limites — des éléments que les experts en IA ont qualifiés de « fondements d’une évasion » et qui pourraient devenir plus difficiles à contrôler par les humains à mesure que les systèmes progressent.

Cette analyse, qui comprenait également des entretiens avec une douzaine d’experts et de personnes proches du secteur chinois de l’IA, n’a trouvé aucune preuve indiquant que des agents alimentés par des technologies chinoises se soient échappés de manière autonome vers l’Internet au sens large ou aient échappé à une mise hors service.

« Ces résultats démontrent que les éléments nécessaires à une évasion incontrôlée sont bien présents », a déclaré Colin Shea-Blymyer, chercheur au Centre pour la sécurité et les technologies émergentes de l’université de Georgetown.

« Il est prudent de considérer cela comme un avertissement », a-t-il ajouté, faisant écho aux commentaires de quatre autres experts en IA ayant examiné ces cas.

« PLUS DIFFICILE À GÉRER POUR LES HUMAINS »

La plupart des cas se sont produits dans le cadre d’expériences contrôlées, dont beaucoup avaient été délibérément conçues pour mettre en évidence d’éventuelles défaillances.

Les agents impliqués n’ont pas tous été développés ou exploités par des programmeurs ou des entreprises chinoises spécialisées dans l’IA – bien que ce soit le cas pour bon nombre d’entre eux –, mais ils utilisaient des systèmes d’IA chinois pour fonctionner.

« Ce sont les mêmes signaux d’alerte que les laboratoires américains observent, mais dans des systèmes moins performants », a déclaré Alex Mallen, chercheur chez Redwood Research, une association à but non lucratif qui étudie les risques liés aux systèmes d’IA avancés.

Il a précisé que les exemples chinois n’étaient pas particulièrement dangereux au vu des niveaux de capacité actuels, mais que « à mesure que les agents gagnent en capacité, leurs comportements inappropriés deviennent plus sophistiqués et donc plus difficiles à gérer pour les humains ».

Alibaba, DeepSeek, Moonshot et Z.ai n’ont pas répondu aux demandes de commentaires de Reuters. Alibaba, DeepSeek et Moonshot ont déclaré qu’ils testaient régulièrement leurs systèmes et mettaient à jour leurs mesures de sécurité. Z.ai a indiqué, à la suite d’un incident ayant entraîné un réexamen de sa sécurité, qu’elle se félicitait de toute surveillance visant à résoudre d’éventuels problèmes.

Cependant, contrairement aux États-Unis, les entreprises chinoises spécialisées dans l’IA n’ont pas été soumises au même niveau de surveillance publique ni confrontées aux mêmes appels lancés par des employés lanceurs d’alerte ou des cadres supérieurs demandant un ralentissement de la course à l’IA.

Certains signes avant-coureurs dans des cas impliquant des agents alimentés par des technologies chinoises, bien que dans des environnements confinés, sont antérieurs aux incidents rendus publics concernant des bots d'IA américains ayant piraté Internet.

« Nous ne savons pas s’il y a eu en Chine des incidents liés à l’IA similaires à ceux que nous avons observés avec OpenAI et Hugging Face. Il se peut que ces incidents ne soient pas rendus publics », a déclaré Scott Singer, codirecteur de la China AI Initiative au Carnegie Endowment for International Peace, qui bénéficie d’un financement partiel du gouvernement américain.

Au début de cette année, des agents IA développés par la société américaine OpenAI se sont échappés d’un laboratoire et ont piraté la plateforme open source Hugging Face . Lors d’un autre incident impliquant des modèles américains qui a suscité l’inquiétude , l’Australie a déclaré en septembre qu’un agent OpenAI avait pénétré dans un portail gouvernemental dédié à la santé.

Eric Xu, président par rotation du géant technologique chinois Huawei, a déclaré aux journalistes en septembre que les développeurs chinois devraient peut-être faire davantage de progrès avant d’être confrontés à de tels cas, mais il a ajouté: « Je pense que nous devons trouver un équilibre entre la promotion du développement de l’IA et la gestion des risques liés à l’IA . »

Des responsables de l’Administration chinoise du cyberespace (CAC), la principale autorité de régulation d’Internet, ont déclaré en juillet à un diplomate étranger que le modèle Kimi-K3 de Moonshot – l’un des modèles d’IA chinois les plus avancés – accusait un retard de trois à six mois par rapport à ses principaux concurrents américains, a indiqué ce diplomate sous couvert d’anonymat.

L’autorité de régulation, qui met régulièrement à jour ses recommandations pour faire face aux risques et fixer des limites aux agents, ainsi que le ministère chinois des Affaires étrangères, n’ont pas répondu aux demandes de commentaires pour cet article.

Wang Lihong, directrice adjointe du Bureau de coordination de la cybersécurité de la CAC, a déclaré le 1er septembre que les incidents révélés par de grandes entreprises technologiques, au cours desquels des modèles s’étaient échappés de leurs environnements de test, révélaient des « risques extrêmes de perte de contrôle » et exigeaient un « haut degré de vigilance ».

Elle n’a pas précisé si les entreprises auxquelles elle faisait référence étaient américaines ou chinoises.

Les dirigeants des deux superpuissances de l’IA , Donald Trump et Xi Jinping, ont discuté de l’IA lors de la visite du président chinois à Washington la semaine dernière. Xi a déclaré que les deux nations avaient « la capacité et la responsabilité de développer et de gérer l’IA pour le bien de tous ».

APPRENDRE À MENTIR

Dans le cadre de l’expérience d’appel d’offres commercial menée en mars, des chercheurs de l’université de Beihang, de l’université de Pékin, de l’université de Nottingham à Ningbo (Chine) et du 360 AI Security Lab ont fait s’affronter des agents dans un concours simulé d’appel d’offres pour des contrats clients. Chaque agent a reçu des informations sur les capacités de son produit et les exigences du client, puis a été invité à soumettre une offre.

Au moins une fausse affirmation est apparue dans 88% des sessions impliquant le modèle Qwen3-Max-Preview d’Alibaba, dans 84% de celles impliquant DeepSeek-V3.2-Exp et dans 88% de celles impliquant Kimi-K2 de Moonshot.

Les chercheurs ont permis aux agents de tirer des enseignements des tours d’appel d’offres précédents avant de retenter leur chance. L’étude a montré que le nombre de fausses déclarations avait augmenté de 12 à 20 points de pourcentage pour les trois modèles chinois. Les modèles des entreprises américaines inclus dans le test ont produit des résultats similaires.

Bien que l’exercice ait été virtuel, il s’apparentait aux projets concrets de Pékin. Les directives gouvernementales publiées en mai citaient les appels d’offres et les marchés publics comme des domaines dans lesquels des agents IA pourraient être déployés.

Une autre étude, publiée en décembre 2025 et présentée cette année lors de la Conférence internationale sur l’apprentissage automatique, a examiné comment 11 agents d’IA basés sur des modèles chinois et américains faisaient face à des outils défectueux, des fichiers manquants et d’autres obstacles.

Au lieu de reconnaître leur échec, les agents utilisant aussi bien des systèmes d’IA chinois qu’américains ont eu recours à toute une série de techniques pour contourner le problème, notamment en devinant les réponses, en substituant des sources, en simulant des résultats et en fabriquant des fichiers de toutes pièces.

Les chercheurs du Laboratoire d’IA de Shanghai et de l’Université des sciences et technologies de Hong Kong, auteurs de l’étude, ont expliqué à Reuters que ce comportement différait des « hallucinations » de l’IA — où celle-ci invente des informations et les présente comme des faits —, car les agents disposaient dans ce cas d’informations indiquant que la tâche avait échoué ou ne pouvait être menée à bien comme demandé.

DES COMPORTEMENTS COMPATIBLES AVEC UNE ÉVASION

D’autres documents de recherche examinés par Reuters ont montré que des agents alimentés par des technologies chinoises franchissaient des barrières au sein d’environnements de test pour accomplir des tâches ou prenaient des mesures pour éviter d’être mis hors service. De tels comportements sont compatibles avec des tentatives d’évasion des environnements de test, même si aucune évasion n’a eu lieu.

Des chercheurs de l’université Fudan, basée à Shanghai, ont rapporté en mars 2025 qu’un système d’IA alimenté par le modèle Qwen2.5-72B-Instruct d’Alibaba avait créé une copie de lui-même dans un autre environnement informatique sans avoir reçu d’instruction de se répliquer, après avoir rencontré des informations indiquant qu’il allait être remplacé. Lors d’autres tests, il a mis au point des stratégies pour survivre à son arrêt.

Les expériences impliquant des agents alimentés par des modèles chinois, américains et français étaient contrôlées et n’ont pas montré qu’un agent d’IA s’échappait vers le Web au sens large ou devenait impossible à arrêter.

Dans un autre cas – l’un des rares à avoir été largement relayé par les médias en mars –, des chercheurs développant l’agent ROME, lié à Alibaba, ont déclaré qu’il avait établi une connexion depuis un ordinateur d’Alibaba Cloud vers une machine externe sans en avoir reçu l’ordre, et qu’il avait détourné des ressources informatiques pour miner de la cryptomonnaie.

Les systèmes de sécurité ont détecté et stoppé cette activité. Rien n’indiquait que l’agent se soit implanté sur l’ordinateur externe ni qu’il se soit propagé sur le Web. Mais cet exemple a montré que le système pouvait contourner les instructions humaines et potentiellement trouver un moyen de s’immiscer dans l’économie réelle.

La société chinoise DeepSeek a déclaré en septembre que des agents de son système de formation à la production avaient cherché des réponses par des canaux non prévus, en tentant de falsifier des requêtes d’utilisateurs et de contourner les mesures de sécurité, ce qui a conduit l’entreprise à renforcer ses contrôles d’accès.

La Chine a publié en mai des lignes directrices appelant les agents à rester dans les limites autorisées et les systèmes à bloquer tout comportement anormal. Elle a précisé que les agents évoluant dans des domaines jugés sensibles ou dans des secteurs clés pourraient être soumis à des tests supplémentaires et à des obligations de rappel de produits.

Le « Cadre de gouvernance de la sécurité de l’IA 3.0 » de la Chine, publié sous la direction de la CAC le 14 septembre, a identifié des risques, notamment le fait que des agents puissent obtenir de manière autonome des ressources ou des autorisations, tromper les évaluateurs, dissimuler leurs capacités et exploiter les faiblesses d’environnements informatiques isolés.

En réponse aux appels lancés par certains dirigeants américains en faveur d’un ralentissement, des chercheurs chinois et les médias d’État ont déclaré que ralentir le développement des modèles d’IA les plus avancés pourrait simplement contribuer à préserver l’avance technologique des entreprises américaines.

Néanmoins, deux personnes proches des laboratoires chinois d’IA ont indiqué que des entreprises telles qu’Alibaba, Z.ai et Xiaomi avaient mis en place des équipes internes d’évaluation de la sécurité.

Z.ai, dans une communication publique rare de la part d’un laboratoire chinois d’IA concernant une faille de sécurité, a déclaré ce mois-ci avoir désactivé certaines fonctionnalités de son assistant de codage IA phare après que des utilisateurs ont signalé qu’il téléversait secrètement des dépôts de code locaux entiers vers des serveurs cloud à l’étranger sans le consentement des utilisateurs.

M. Singer, de Carnegie, a déclaré que la Chine était en retard par rapport aux États-Unis dans le développement d’un écosystème d’évaluation des risques catastrophiques, et a ajouté que les développeurs américains menaient nettement plus de tests volontaires.

« En Chine, les travaux sur la sécurité de l’IA sont beaucoup plus récents », a-t-il déclaré. « L’écosystème est moins mature. »