((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
* Les autorités américaines accusent l'IA chinoise de vol de propriété intellectuelle et de violation des contrôles à l'exportation
* De nouvelles sanctions de Washington pourraient faire dérailler le dialogue américano-chinois sur la sécurité de l’IA
* Ces tensions surviennent alors que l’incident Hugging Face met en évidence les risques de sécurité posés par les modèles de pointe
* Il est difficile de mettre en place des garde-fous sur les modèles à poids ouverts privilégiés par les entreprises chinoises
* Les équipes chinoises spécialisées dans l’IA disposent de moins de ressources pour se concentrer sur la sécurité; leur priorité est la mise à l’échelle
par Laurie Chen
Les menaces américaines de sanctions à l’encontre des développeurs chinois d’IA pour vol présumé de propriété intellectuelle et violations des contrôles à l’exportation risquent de compromettre les efforts visant à établir un dialogue bilatéral sur la sécurité de l’IA, selon les analystes, alors même que des modèles de plus en plus puissants suscitent des inquiétudes quant à de graves failles de sécurité .
Mercredi, des responsables américains ont accusé le laboratoire chinois d’IA Moonshot d’avoir « distillé » son modèle Kimi K3 à partir du modèle avancé Fable 5 d’Anthropic, ce qui a conduit le secrétaire au Trésor Scott Bessent à mettre en garde contre d’éventuelles sanctions.
La « distillation » est un processus consistant à entraîner des modèles d’IA à partir des résultats de modèles plus avancés, afin de réduire les coûts liés à l’entraînement d’un nouvel outil d’IA puissant.
Le Bureau de l’industrie et de la sécurité du ministère du Commerce enquête également pour déterminer si des entreprises chinoises telles que Moonshot accèdent illégalement à des puces américaines de pointe pour entraîner leurs modèles. Un porte-parole de Moonshot n’a pas répondu à la demande de commentaires de Reuters.
Ce différend met en lumière une tension croissante au cœur de la course à l’IA entre les États-Unis et la Chine. Les deux parties considèrent de plus en plus l’IA de pointe comme un atout stratégique et un risque pour la sécurité; pourtant, les experts affirment qu’une coopération sur les normes de sécurité devient de plus en plus urgente, car des modèles puissants pourraient être détournés à des fins de cyberattaques ou d’autres applications nuisibles.
Ces accusations, associées aux informations selon lesquelles Washington envisagerait d’imposer des restrictions sur les modèles chinois à poids ouvert, pourraient provoquer des mesures de rétorsion et compromettre le dialogue américano-chinois sur l’IA prévu en septembre, estiment les analystes.
Ces tensions s’ajoutent à des années de contrôles à l’exportation américains visant à limiter l’accès de la Chine aux puces de pointe , des mesures qui occupent une place de plus en plus prépondérante dans les négociations commerciales entre les deux pays.
« En fonction du nombre d’entreprises chinoises visées, (et) ainsi que de la nature des mesures punitives prises… ces représailles pourraient bien faire capoter à la fois le dialogue sur l’IA et la rencontre prévue le 24 septembre entre les présidents Trump et Xi », a déclaré Paul Triolo, associé chez DGA-Albright Stonebridge Group.
Pékin envisage quant à lui de restreindre l’accès des utilisateurs étrangers à ses modèles à titre de mesure de rétorsion, comme l’avait précédemment rapporté Reuters .
RISQUES DE SÉCURITÉ LIÉS AUX MODÈLES FERMÉS ET OPEN SOURCE
La société new-yorkaise Hugging Face a utilisé la semaine dernière un modèle chinois, le GLM-5.2 de Z.ai, pour contenir une cyberattaque menée par un agent OpenAI rebelle qui s’était échappé lors de tests de sécurité, les barrières de sécurité des modèles américains fermés s’étant révélées, ironiquement, trop strictes.
Alors que les modèles de pointe chinois et américains parviennent à une auto-amélioration récursive (RSI), les systèmes étant capables d’améliorer de manière autonome leurs propres capacités, les chercheurs affirment que les deux pays ont tout intérêt à coopérer sur les normes de sécurité avant qu’un incident plus grave ne se produise.
Les experts du secteur soulignent également les risques posés par les modèles à poids ouvert, qui peuvent être téléchargés, modifiés et redistribués avec peu de contrôle, ce qui limite l’efficacité des contrôles à l’exportation basés sur des logiciels.
Yoshua Bengio, surnommé le « parrain de l’IA », a averti la semaine dernière lors du principal forum chinois consacré à l’IA que les décisions relatives au déploiement et au partage des modèles à poids ouverts sont irréversibles, et que leurs mesures de sécurité sont plus faciles à contourner.
« La démarche logique consiste à évaluer correctement ces modèles, à partager ceux qui ne sont pas trop dangereux et à ne pas partager ceux qui dépassent le seuil de risque », a-t-il déclaré par vidéoconférence.
RESSOURCES ET CONTRAINTES GÉOPOLITIQUES
Les modèles d’IA chinois doivent faire l’objet d’examens gouvernementaux portant sur la sécurité et le contenu avant leur mise sur le marché, bien que les règles actuelles ne couvrent pas les modifications apportées après leur lancement.
Contrairement aux géants américains OpenAI et Anthropic, de nombreux laboratoires chinois d’IA ne disposent pas des ressources informatiques nécessaires pour mener des essais de sécurité approfondis et se concentrent plutôt sur l’amélioration des capacités des modèles, selon les observateurs du secteur.
« Il est plausible que la Chine envisage à terme d’autoriser la publication en poids ouvert des modèles de pointe, mais la barre à franchir pour y parvenir est haute », a déclaré Kristy Loke, chercheuse au MATS spécialisée dans la gouvernance de l’IA en Chine.
Certains chercheurs en sécurité de l’IA soutiennent que les modèles de pointe, tant aux États-Unis qu’en Chine, devraient être soumis à des tests plus stricts avant leur mise sur le marché ainsi qu’à des évaluations indépendantes menées par des tiers.
Aux États-Unis, les entreprises peuvent soumettre volontairement leurs modèles à des tests effectués par le Center for AI Standards and Innovation (CAISI) (), un organisme financé par l’État, bien que certains législateurs aient réclamé des examens fédéraux obligatoires.
« Dans un monde idéal, les deux pays s’uniraient pour travailler à la mise au point de modèles plus sûrs… s’accorderaient sur l’élaboration de normes communes concernant les tests préalables à la mise sur le marché et fixeraient des limites à ne pas franchir pour les modèles ouverts les plus avancés », a déclaré Loke.
RÉACTIONS DIVISÉES CONCERNANT LES MODÈLES D’IA CHINOIS
Certains responsables du gouvernement américain et du secteur de l’IA restent divisés sur la manière de réagir face aux modèles chinois, qui représentent environ 60% de l’utilisation de jetons par les entreprises américaines sur la plateforme OpenRouter.
OpenAI et Anthropic ont fait pression sur Washington contre les modèles chinois à moindre coût, arguant qu’ils pourraient nuire à leurs modèles économiques.
Dean Ball, stratège en chef chez OpenAI, a écrit sur X que l’administration Trump pourrait « créer d’importants risques réglementaires autour de l’utilisation des modèles chinois à poids ouverts » afin de freiner leur adoption par les entreprises américaines.
David Sacks, conseiller de la Maison Blanche en matière d’IA, a rétorqué que les principaux laboratoires américains « souhaitent que le gouvernement élimine leurs concurrents open source » et a plaidé en faveur d’une concurrence loyale, ajoutant dans un autre message que « la panique autour de Kimi doit cesser ».
« Tant que nous ne nous saboterons pas nous-mêmes avec des règles inutiles, les États-Unis continueront à l’emporter », a-t-il déclaré.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer