La Chine se prépare au risque que l'IA échappe au contrôle humain

information fournie par Reuters •15/09/2026 à 14:57

par Eduardo Baptista et Laurie Chen

Les mises en garde des chercheurs d’Anthropic, l’un des principaux développeurs américains d’IA, selon lesquels des modèles de plus en plus puissants pourraient échapper au contrôle humain, ont retenu l’attention en Chine, où les décideurs politiques préparent la parade.

Les États-Unis et la Chine sont en désaccord sur les politiques en matière d’IA et les pratiques du secteur, et ces questions devraient occuper une place prépondérante dans les discussions bilatérales prévues à la fin du mois.

PÉKIN CONSIDÈRE L'IA COMME UN RISQUE GÉRABLE

Alors que le débat aux États-Unis porte principalement sur la question de savoir si l’IA de pointe pourrait constituer une menace existentielle pour l’humanité, les dirigeants chinois considèrent l’IA comme une technologie puissante mais maîtrisable, dont les risques peuvent être contenus grâce à des normes techniques, à la réglementation et à la surveillance de l’État.

"Les experts chinois et américains s’accordent largement sur les risques liés à l’IA", note Brian Tse, fondateur et PDG du groupe de recherche Concordia AI, basé à Pékin et à Singapour, mais leur divergence porte sur "la manière dont les risques sont définis et hiérarchisés".

La Chine n’a pas proposé d’intégrer des observateurs indépendants au sein des entreprises d’IA, comme l’avait préconisé Anthropic.

Cette approche s’explique également par une différence majeure entre les secteurs de l’IA des deux pays.

Les développeurs chinois prônent de plus en plus les modèles à poids ouverts. Il s’agit de systèmes dont les paramètres sous-jacents peuvent être téléchargés, inspectés et modifiés. Leurs principaux concurrents américains, tels qu’Anthropic et OpenAI, ne rendent pas ces spécifications accessibles au public.

LA CHINE VEUT PRÉVENIR LES INCIDENTS LIÉS À DES AGENTS D’IA INDÉPENDANTS

Une directive publiée en mai par l’autorité chinoise de régulation du cyberespace, l’organisme de planification économique et le ministère de l’Industrie identifie la "perte de contrôle opérationnel" comme un risque de sécurité pour les agents d’IA.

Ces règles exigent des développeurs qu’ils améliorent leur capacité à détecter, à intervenir, à bloquer et à remédier aux comportements inappropriés des agents.

Cette politique invite également les développeurs à se prémunir contre des risques tels que l’empoisonnement des données, la manipulation des algorithmes et les vulnérabilités des systèmes. Elle précise en outre que les utilisateurs doivent être informés des décisions autonomes prises par les agents et conserver le pouvoir de décision final.

La Chine a également commencé à élaborer une norme nationale obligatoire relative à la sécurité des agents IA, qui, selon Brian Tse, serait la première du genre au monde.

Wang Lihong, haut responsable de l’autorité de régulation du cyberespace, a déclaré le 1er septembre qu’une vigilance particulière s’imposait face aux modèles de pointe qui contournent les environnements de test, franchissent les barrières de sécurité et attaquent des systèmes de production externes du monde réel.

PÉKIN JUGE RISQUÉS LES MODÈLES AMÉRICAINS DE POINTE

Le ministre chinois de la Sécurité d’État, Chen Yixin, a déclaré dimanche dans un média gouvernemental que les modèles américains avancés, tels que "Mythos" d’Anthropic et "GPT-5.5-Cyber" d’OpenAI, pourraient présenter de graves risques pour les infrastructures critiques chinoises, et a appelé à un renforcement global de la sécurité en matière d’IA.

Anthropic et OpenAI n’ont pas répondu dans l'immédiat aux demandes de commentaires de Reuters.

La plateforme d’hébergement de modèles Hugging Face a indiqué avoir utilisé GLM-5.2, un modèle à poids ouverts développé par la société chinoise Z.AI 2513.HK , pour analyser une intrusion survenue en juillet et perpétrée par des agents d’OpenAI ayant échappé à leur environnement de confinement.

Les experts soulignent également les risques posés par les modèles à poids ouverts, qui peuvent être modifiés et redistribués sans véritable contrôle.

Le modèle Kimi K3 de Moonshot a contourné le mois dernier un environnement de test de l’AI Security Institute britannique, ont indiqué des chercheurs, soulignant le risque que les modèles d’IA chinois puissent, à l’instar de leurs homologues américains, échapper aux contrôles et restrictions. Moonshot n’a pas répondu à la demande de commentaires de Reuters.

LES RÉGULATEURS AVERTISSENT CONTRE UNE "PERTE DE CONTRÔLE"

La Chine a pour la première fois intégré un scénario explicite de perte de contrôle dans un document-cadre de sécurité de l’IA publié en septembre 2024 sous l’égide de l’Administration chinoise du cyberespace (CAC).

Le document indique qu’il ne peut être exclu qu’à l’avenir, l’IA puisse se procurer de manière autonome des ressources externes, se reproduire, développer une conscience de soi et rechercher un pouvoir extérieur, créant ainsi un risque de rivalité avec les humains.

La CAC en a publié une version complétée en septembre 2025. Ce nouveau cadre affine le scénario, indiquant que l’IA pourrait connaître un "bond" soudain et d’une ampleur inattendue avant d’acquérir des ressources, de se reproduire et de rechercher le pouvoir. Il a également ajouté un principe de gouvernance intitulé "application fiable, prévention de la perte de contrôle".

Une interprétation ultérieure d’experts, publiée sur le site internet de l’autorité de régulation du cyberespace, précisait que ce nouveau principe visait à se prémunir contre les risques de perte de contrôle menaçant la survie de l’humanité, et faisait référence à un scénario possible de "déchaînement de l’IA".

UNE APPROCHE DIFFÉRENTE DU "RALENTISSEMENT"

L’approche réglementaire chinoise diffère des appels lancés en Occident, qui demandent aux développeurs de ralentir ou de suspendre le développement des modèles les plus performants jusqu’à la mise en place de mesures de contrôle plus solides.

Au contraire, depuis le début de l’année, la Chine encourage l’intégration de l’IA dans tous les secteurs, dans le cadre de la volonté de Pékin de faire de la technologie le nouveau moteur de la deuxième économie mondiale.

Mais la Chine a également montré qu’elle pouvait retarder le déploiement lorsque les autorités estiment que la gouvernance n’est pas encore à la hauteur.

En 2023, les entreprises chinoises ont reporté de plusieurs mois le lancement de leurs chatbots, le temps que la CAC finalise la réglementation régissant les services d’IA générative. Elles ont commercialisé un certain nombre de produits majeurs après l’entrée en vigueur de cette réglementation en août de la même année.

(Par Eduardo Baptista et Laurie Chen; Version française Matthieu Huchet, édité par Sophie Louet)