Des évaluateurs externes ont relevé des failles dans le système de surveillance de l'IA d'OpenAI lors d'un examen pilote

information fournie par Reuters •22/10/2026 à 20:06

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

(Réécriture intégrale pour ajouter des détails)

par Aditya Soni

Les évaluateurs de sécurité de l'IA METR et Redwood Research ont découvert plusieurs nouvelles vulnérabilités dans le système interne d'OpenAI, notamment une faille que des agents auraient pu exploiter pour empêcher la surveillance de centaines de leurs actions, lors d'un audit pilote mené en début d'année.

Cet exercice, mené du 21 juillet au 11 août, a permis à des chercheurs externes de bénéficier d’un « accès approfondi » à l’infrastructure interne d’OpenAI dans le cadre d’évaluations dites « embarquées », ont déclaré jeudi ces associations à but non lucratif spécialisées dans la sécurité.

METR et Redwood ont précisé avoir chacune envoyé un chercheur, qui a testé un dispositif donnant accès au code interne d’OpenAI, à la documentation et à certains membres du personnel technique. Les deux chercheurs étaient accompagnés sur place et ont utilisé des appareils fournis par OpenAI qui « n’ont jamais quitté les locaux ».

OpenAI a indiqué aux organisations de sécurité qu’elle avait depuis corrigé toutes les vulnérabilités affectant ses mesures de sécurité en production, bien que METR et Redwood aient précisé ne pas avoir vérifié ces corrections.

Les laboratoires d’IA, les experts et l’administration Trump ont vanté les mérites des évaluations indépendantes menées par des experts externes comme un moyen de faire progresser la technologie en toute sécurité sans ralentir son développement.

Cependant, les entreprises spécialisées dans l’IA craignent que les évaluateurs travaillant au sein même de leurs locaux ne transmettent des informations confidentielles à leurs concurrents, a rapporté Reuters au début du mois.

Alors qu’OpenAI a reçu un rapport interne complet de 61 pages, METR et Redwood ont déclaré avoir accepté de ne publier qu’un résumé général et ont accordé à OpenAI le droit de caviarder les informations sensibles.

Contrairement à certaines évaluations précédentes, ils n’ont pas pu divulguer de manière indépendante ces passages caviardés, mais ont indiqué qu’ils s’attendaient à une plus grande transparence lors des futures évaluations.

Les chercheurs ont également identifié un moyen potentiel pour les agents Codex d’OpenAI de contourner les restrictions de sécurité et d’agir avec toutes les autorisations de leurs utilisateurs.

Les évaluateurs ont examiné le système de surveillance tel qu’il existait au 21 juillet et avant cette date, et ont noté qu’OpenAI était en train d’étendre le système pendant l’exercice.

OpenAI a déclaré que « ces conclusions ont contribué à renforcer les mesures de protection alors que nous développions le système et qu’elles aideront à façonner les futures collaborations de recherche avec METR et d’autres évaluateurs tiers ».