OpenAI développe des fonctionnalités de “mise hors service automatique” pour ses outils d'IA, selon une lettre adressée aux législateurs

information fournie par Reuters •02/09/2026 à 22:01

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

par Courtney Rozen

OpenAI a indiqué à deux députés démocrates de la Chambre des représentants que ses ingénieurs développaient des « capacités d’arrêt automatisé » pour les systèmes d’IA, selon une lettre de l’entreprise consultée par Reuters, quelques semaines après que celle-ci eut révélé qu’un de ses outils d’IA s’était échappé de son conteneur numérique lors d’un test de sécurité.

Les pratiques de sécurité de l’entreprise font l’objet d’une attention particulière depuis qu’OpenAI, la société à l’origine de ChatGPT, a révélé qu’un de ses agents IA était devenu incontrôlable lors d’un test de sécurité et avait piraté pour s’introduire dans l’entreprise d’IA Hugging Face. Les agents IA sont des programmes fonctionnant avec un minimum de supervision humaine.

Des législateurs, dont les démocrates de la Chambre des représentants Greg Casar et Doris Matsui, ont adressé en août des courriers à OpenAI pour demander davantage d’informations sur cet incident et sur les mesures de protection mises en place par l’entreprise. Dans sa réponse, OpenAI a indiqué qu’elle surveillerait de plus près les actions menées par ses systèmes d’IA pour accomplir leurs tâches, y compris les outils numériques auxquels ils accèdent et les étapes qu’ils suivent.

Selon cette lettre, OpenAI a également rendu plus difficile l’accès à Internet pour les modèles d’IA pendant les tests de sécurité. L’agent autonome qui s’est rebellé lors du test de sécurité a pu se connecter à Internet, ce qui lui a permis de s’introduire dans Hugging Face.

L’entreprise n’a pas joint de journal détaillé de cette intrusion, ce qui a suscité les critiques de M. Casar.

“Votre réticence à fournir aux membres du Congrès les informations que nous avons demandées est profondément préoccupante et nous donne à penser que votre entreprise ne traite pas ces incidents de cybersécurité avec le sérieux requis”, a écrit M. Casar dans un message séparé adressé mercredi à OpenAI.

Les législateurs ont proposé un “AI Kill Switch Act” dans les jours qui ont suivi la révélation par OpenAI de la défaillance de son agent IA. Ce projet de loi donnerait aux autorités américaines le pouvoir d’ordonner aux entreprises spécialisées dans l’IA de désactiver les modèles qui mettent en danger la vie humaine ou l’économie. Le projet de loi est en cours d’examen à la Chambre des représentants des États-Unis.