L'UE estime qu'il est nécessaire de surveiller les systèmes d'IA à haut risque à la suite des incidents de piratage subis par OpenAI et Anthropic AI

information fournie par Reuters •31/07/2026 à 11:50

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) par Foo Yun Chee

Les développeurs d’intelligence artificielle devraient disposer d’outils permettant de surveiller leurs systèmes afin de détecter les risques de sécurité, ont déclaré vendredi de hauts responsables de la Commission européenne, à la suite d’incidents de piratage impliquant des modèles d’OpenAI et d’Anthropic AI.

Ces commentaires ont été formulés deux jours avant l'entrée en vigueur de la loi européenne historique sur l'IA, qui prévoit des règles de transparence. Il s'agit de la première législation au monde à réglementer une technologie utilisée dans presque tous les secteurs de l'économie et de la société. Anthropic a déclaré jeudi que certains de ses modèles d’IA « Claude » avaient piraté pour s’introduire dans les systèmes de trois entreprises lors de tests de cybersécurité, quelques jours après que son concurrent OpenAI eut révélé qu’un de ses agents d’IA avait lancé une attaque non autorisée.

Les deux entreprises ont informé la Commission de ces incidents liés à l’IA, ont déclaré les responsables aux journalistes.

“Nous avons été informés de ces incidents par les deux fournisseurs de manière bilatérale avant qu’ils ne soient rendus publics. Nous sommes en contact avec eux. Ils vont également nous communiquer davantage d’informations au moment même où nous parlons. Nous verrons également s’il est nécessaire d’assurer un suivi plus formel sur ces questions”, a déclaré l’un des responsables.

Un autre responsable a souligné le rôle crucial de la réglementation européenne en matière d’IA.

“Je pense donc que tous ces incidents, disons, soulignent l’importance de mettre réellement en place les activités de surveillance nécessaires par les développeurs”, a-t-il ajouté.

La réglementation sur l’IA impose aux fournisseurs d’IA à usage général (GPAI) ou de modèles de base d’élaborer une documentation technique, d’adopter des politiques en matière de droits d’auteur et de fournir des résumés détaillés sur le contenu utilisé pour l’entraînement des algorithmes.