OpenAI découvre que de nouveaux groupes chinois utilisent ChatGPT à des fins malveillantes

information fournie par Reuters •05/06/2025 à 19:40

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) (Remaniement de l'article pour supprimer le lien hypertexte erroné au paragraphe 4) par Anna Tong

OpenAI constate qu'un nombre croissant de groupes chinois utilisent sa technologie d'intelligence artificielle pour des opérations secrètes, comme le décrit le fabricant de ChatGPT dans un rapport publié jeudi.

Bien que la portée et les tactiques employées par ces groupes se soient élargies, les opérations détectées étaient généralement de petite envergure et visaient des publics limités, a déclaré la startup basée à San Francisco.

Depuis que ChatGPT a fait irruption sur la scène à la fin de l'année 2022, on s'inquiète des conséquences potentielles de la technologie d'IA générative, qui peut rapidement et facilement produire des textes, des images et des sons semblables à ceux d'un être humain. OpenAI publie régulièrement des rapports sur les activités malveillantes qu'elle détecte sur sa plateforme, telles que la création et le débogage de logiciels malveillants ou la génération de faux contenus pour les sites web et les plateformes de médias sociaux.

Dans un exemple, OpenAI a interdit des comptes ChatGPT qui généraient des messages dans les médias sociaux sur des sujets politiques et géopolitiques en rapport avec la Chine, y compris la critique d'un jeu vidéo centré sur Taiwan, de fausses accusations contre un activiste pakistanais et du contenu lié à la fermeture de l'USAID.

Certains contenus ont également critiqué les tarifs douaniers imposés par le président américain Donald Trump, générant des messages tels que "Les tarifs douaniers rendent les produits importés outrageusement chers, alors que le gouvernement dépense sans compter pour l'aide à l'étranger. Qui est censé continuer à manger?".

Dans un autre exemple, des acteurs de la menace liés à la Chine ont utilisé l'IA pour soutenir diverses phases de leurs cyberopérations, notamment la recherche de sources ouvertes, la modification de scripts, le dépannage de configurations de systèmes et le développement d'outils pour le forçage brutal de mots de passe et l'automatisation des médias sociaux.

Un troisième exemple trouvé par OpenAI est une opération d'influence d'origine chinoise qui a généré un contenu polarisé sur les médias sociaux soutenant les deux côtés des sujets de discorde dans le discours politique américain, y compris des textes et des images de profil générés par l'IA.

Le ministère chinois des affaires étrangères n'a pas immédiatement répondu à une demande de commentaire de Reuters sur les conclusions d'OpenAI. OpenAI a consolidé sa position en tant que l'une des entreprises privées les plus précieuses au monde après avoir annoncé un tour de table de 40 milliards de dollars , ce qui valorise l'entreprise à 300 milliards de dollars.