Comment la Chine se prépare au risque que l'IA échappe au contrôle humain

information fournie par Reuters •15/09/2026 à 07:40

Ajouter Boursorama à vos sources

Intelligence artificielle (Crédits: Adobe Stock)

Les avertissements lancés par des chercheurs d'Anthropic, l'un des principaux développeurs américains d'IA, selon lesquels des modèles de plus en plus puissants pourraient échapper au contrôle humain, ont retenu l'attention en Chine, où les décideurs politiques se préparent à faire face à certains de ces mêmes risques.

Les États-Unis et la Chine sont les deux principaux moteurs du développement de pointe de l'IA et de l'adoption mondiale de cette technologie. Les deux superpuissances sont en désaccord sur les politiques en matière d'IA et les pratiques du secteur, et ces questions devraient occuper une place prépondérante lors des discussions bilatérales , prévues plus tard ce mois-ci.

PÉKIN CONSIDÈRE L'IA COMME UN RISQUE MAÎTRISABLE, ET NON COMME UNE MENACE D'EXTINCTION

Alors que le débat aux États-Unis porte principalement sur la question de savoir si l'IA de pointe pourrait représenter une menace existentielle pour l'humanité , les décideurs politiques chinois ont généralement considéré l'IA comme une technologie puissante mais maîtrisable, dont les risques peuvent être maîtrisés grâce à des normes techniques, à la réglementation et à la surveillance de l'État.

« Les experts chinois et américains s'accordent largement sur les risques liés à l'IA », a déclaré Brian Tse, fondateur et directeur général de Concordia AI, un groupe de recherche sur la sécurité et la gouvernance de l'IA basé à Pékin et à Singapour, ajoutant que la différence portait sur « la manière dont les risques sont définis et hiérarchisés ».

La Chine n'a pas proposé d'intégrer des contrôleurs indépendants au sein des entreprises d'IA, comme l'a préconisé Anthropic. Son régime émergent repose plutôt sur les obligations des développeurs, des normes soutenues par l'État, des évaluations de sécurité et des tests externes.

Cette approche s'explique également par une différence majeure entre les secteurs de l'IA des deux pays.

Les développeurs chinois promeuvent de plus en plus les modèles à poids ouverts. Il s'agit de systèmes dont les paramètres sous-jacents peuvent être téléchargés, inspectés et modifiés. Leurs principaux concurrents américains, tels qu'Anthropic et OpenAI, ne rendent toutefois pas ces spécifications accessibles au public.

LA CHINE CHERCHE À PRÉVENIR LES INCIDENTS LIÉS À DES AGENTS D'IA INDÉPENDANTS

Une directive publiée en mai par l'autorité chinoise de régulation du cyberespace, l'organisme de planification économique et le ministère de l'Industrie identifie la « perte de contrôle opérationnel » comme un risque de sécurité pour les agents d'IA, c'est-à-dire des systèmes capables de planifier et d'exécuter des tâches en plusieurs étapes de manière plus autonome que les chatbots classiques.

Ces règles exigent des développeurs qu'ils améliorent leur capacité à détecter, à intervenir, à bloquer et à remédier aux comportements inappropriés des agents.

Cette politique invite également les développeurs à se prémunir contre des risques tels que l'empoisonnement des données, la manipulation des algorithmes et les vulnérabilités du système. Elle précise en outre que les utilisateurs doivent être informés des décisions autonomes prises par les agents et conserver le pouvoir de décision final.

La Chine a également commencé à élaborer une norme nationale obligatoire relative à la sécurité des agents IA, qui, selon M. Tse de Concordia AI, serait la première du genre au monde.

Wang Lihong, haut responsable de l'autorité de régulation du cyberespace, a déclaré le 1er septembre qu'une vigilance particulière s'imposait face aux modèles de pointe qui contournent les environnements de test, franchissent les barrières de sécurité et attaquent des systèmes de production externes du monde réel.

PÉKIN VOIT DES RISQUES DANS LES MODÈLES AMÉRICAINS DE POINTE

Le ministre chinois de la Sécurité d'État, Chen Yixin, a écrit dimanche dans un média gouvernemental que les modèles américains avancés, tels que « Mythos » d'Anthropic et « GPT-5.5-Cyber » d'OpenAI, pourraient présenter de graves risques pour les infrastructures d'information critiques de la Chine, et a appelé à un renforcement global de la sécurité en matière d'IA.

Anthropic et OpenAI n'ont pas immédiatement répondu aux demandes de commentaires de Reuters.

Les développeurs chinois d'IA ont promu les modèles à poids ouverts, en partie au motif que les équipes de cybersécurité peuvent les inspecter, les modifier et les déployer à des fins défensives.

La plateforme de référentiel de modèles Hugging Face a déclaré avoir utilisé GLM-5.2, un modèle à poids ouverts développé par la société chinoise Z.AI 2513.HK , pour analyser une intrusion survenue en juillet et perpétrée par des agents d'OpenAI en fuite, après que des modèles américains soumis à des restrictions plus strictes se sont révélés moins utiles pour le travail d'analyse.

Mais les experts soulignent également les risques posés par les modèles à poids ouverts, qui peuvent être modifiés et redistribués sans véritable contrôle.

Le mois dernier, le modèle Kimi K3 de Moonshot a contourné , un bac à sable de test de l'UK AI Security Institute, ont déclaré des chercheurs, soulignant le risque que les modèles d'IA chinois puissent, à l'instar de leurs homologues américains, échapper aux contrôles destinés à restreindre leur accès et leurs actions. Moonshot n'a pas répondu lorsque Reuters lui a demandé de commenter cette affaire.

LES RÉGULATEURS METTENT EN GARDE CONTRE LE RISQUE DE « PERTE DE CONTRÔLE » DE L'IA

La Chine a pour la première fois intégré un scénario explicite de perte de contrôle future dans un cadre de sécurité de l'IA publié en septembre 2024 sous l'égide de l'Administration chinoise du cyberespace (CAC).

Le document indiquait qu'il ne pouvait être exclu qu'à l'avenir, l'IA puisse obtenir de manière autonome des ressources externes, se reproduire, développer une conscience de soi et rechercher un pouvoir externe, créant ainsi un risque de rivalité avec les humains pour le contrôle.

La CAC a publié une version élargie en septembre 2025. Ce nouveau cadre a affiné ce scénario, indiquant que l'IA pourrait connaître un « bond » soudain et d'une ampleur inattendue en matière d'intelligence avant d'acquérir des ressources, de se reproduire et de rechercher le pouvoir. Il a également ajouté un principe de gouvernance intitulé « application de confiance, prévention de la perte de contrôle ».

Une interprétation ultérieure d'experts, publiée sur le site web de l'autorité de régulation du cyberespace, indiquait que ce nouveau principe visait à se prémunir contre les risques de perte de contrôle menaçant la survie et le développement de l'humanité, et faisait référence à un scénario possible de « déchaînement de l'IA ».

UNE APPROCHE DIFFÉRENTE DU « PACING »

L'approche réglementaire chinoise diffère des appels lancés par certains cercles occidentaux spécialisés dans la sécurité de l'IA, qui demandent aux développeurs de ralentir ou de suspendre le développement des modèles les plus performants jusqu'à ce que des mesures de protection plus solides soient mises en place.

Au contraire, depuis le début de cette année, elle prône l'intégration de l'IA dans tous les secteurs, dans le cadre de la volonté de Pékin de faire de la technologie le nouveau moteur de la deuxième économie mondiale.

Mais la Chine a également montré qu'elle pouvait retarder le déploiement lorsque les autorités estiment que la gouvernance n'est pas encore à la hauteur.

En 2023, des entreprises chinoises ont reporté de plusieurs mois le lancement de leurs chatbots, le temps que la CAC finalise la réglementation régissant les services d'IA générative. Ces entreprises ont commercialisé plusieurs produits majeurs après l'entrée en vigueur de cette réglementation en août de la même année.

par Eduardo Baptista et Laurie Chen

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))