Le rôle de l'IA chinoise dans la neutralisation d'un agent OpenAI malveillant met en évidence le coût des mesures de protection américaines

information fournie par Reuters •22/07/2026 à 20:13

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) (Mises à jour pour ajouter un commentaire d'OpenAI) par Aditya Soni et Jaspreet Singh

Le recours par une start-up new-yorkaise à un modèle d’IA chinois pour maîtriser un agent malveillant développé à l’aide de la technologie d’OpenAI attise les craintes que les restrictions empêchant les entreprises américaines spécialisées dans l’IA de mener des activités de cybersécurité ne poussent les clients vers leurs concurrents basés à Pékin.

La start-up concernée, Hugging Face, a déclaré avoir eu recours la semaine dernière au modèle open source GLM-5.2 de Zhipu AI pour analyser les données issues du piratage, après que les principaux modèles d’IA américains ont refusé cette tâche, incapables de faire la distinction entre un défenseur et un attaquant.

Bien que la faille ait été causée par un agent autonome qui a échappé au confinement, elle a mis en évidence à quel point les entreprises américaines confrontées à des cyberattaques basées sur l’IA peuvent être limitées par les laboratoires d’IA américains qui, soit restreignent l’accès à leurs modèles les plus avancés, soit les conçoivent pour qu’ils refusent les tâches liées au piratage pour des raisons de sécurité.

Par exemple, le modèle avancé Claude Fable 5 d’Anthropic redirige les requêtes en matière de cybersécurité vers un modèle plus ancien, tandis que le GPT-5.6 Sol d’OpenAI intègre des protections conçues pour bloquer les tâches liées à la cybersécurité.

“Nous apprenons tous que le secret n’est pas la solution et que tous les défenseurs (— et pas seulement quelques-uns triés sur le volet) — ont partout besoin de modèles plus puissants sans restrictions, en particulier des modèles ouverts!”, a déclaré Clément Delangue, cofondateur d’Hugging Face, sur X.

Le dilemme pour les principaux développeurs de modèles américains réside dans le fait que les activités défensives en matière de cybersécurité sont souvent difficiles à distinguer du piratage malveillant. Lors de récentes violations impliquant l’IA, des attaquants ont trompé les modèles en leur faisant croire qu’ils effectuaient un travail de défense légitime, ce qui rend les entreprises d’IA réticentes à assouplir leurs mesures de sécurité, même si les professionnels de la cybersécurité affirment que ces garde-fous peuvent entraver leur travail.

Pour l’instant, ces répercussions donnent un nouvel élan aux modèles open source chinois tels que GLM-5.2, qui gagnent du terrain dans la Silicon Valley grâce à des capacités de codage et d’agentique qui rivalisent presque avec celles d’OpenAI et d’Anthropic, à moindre coût.

Pékin recourt également de plus en plus à l’open source pour se positionner comme une alternative aux États-Unis dans cette course aux enjeux considérables, les médias d’État chinois présentant de plus en plus cette stratégie comme une réponse à ce qu’ils qualifient de tentative menée par les États-Unis d’ériger un “rideau de fer de l’IA”.

“Un régime de sécurité qui restreint les défenseurs légitimes, alors que des modèles performants restent à la disposition des attaquants, crée un désavantage asymétrique”, a déclaré Lukasz Olejnik, consultant technologique indépendant et chercheur senior invité au département d’études sur la guerre du King’s College de Londres.

“Cet écart ne fera que se creuser à mesure que les modèles open source deviendront de plus en plus puissants, sans pour autant être soumis à des garde-fous ou à des restrictions.”

L’IMPORTANCE CROISSANTE DE L’OPEN SOURCE

Interrogé sur la question de savoir si ces mesures de protection entravaient le travail en matière de cybersécurité, OpenAI a renvoyé à un article de blog , tandis qu’Anthropic n’a pas immédiatement répondu à une demande de commentaire.

Le créateur de ChatGPT a déclaré mardi dans cet article de blog : “Nous avons intégré Hugging Face au programme d’accès de confiance et aidons leurs équipes à exploiter rapidement les capacités de nos modèles pour renforcer leurs défenses.”

Pour Zhipu AI, basée à Pékin, le soutien de Hugging Face vient renforcer la dynamique que GLM-5.2 a acquise depuis son lancement le mois dernier.

Le modèle a rapidement grimpé dans les classements d’utilisation sur des plateformes de développement telles qu’OpenRouter et a reçu les éloges de personnalités allant du directeur général de Snowflake, Sridhar Ramaswamy, au capital-risqueur Marc Andreessen.

Zhipu AI 2513.HK , qui a levé environ 4 milliards de dollars (XX milliards d'euros) lors d’une introduction en bourse à Hong Kong au début du mois, a également vu le cours de son action multiplié par près de neuf depuis son entrée en bourse en janvier.

Pourtant, certains analystes ont averti mercredi que cet incident ne devait pas servir à promouvoir un assouplissement des mesures de protection américaines.

“Les garde-fous en matière de cybersécurité qui s’appliquent aux modèles de pointe américains créent une opportunité concurrentielle, mais la solution ne consiste pas simplement à les supprimer”, a déclaré Shrenik Kothari, analyste chez Robert W. Baird.

“OpenAI, Anthropic et Google devraient repenser l’architecture d’accès plutôt que de renoncer à la sécurité… En d’autres termes, passer d’une couche de refus uniforme à une allocation contrôlée des capacités.”