((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
(ajoute des précisions tirées du rapport)
Le groupe de recherche sur la sécurité de l’IA METR a déclaré jeudi qu’un exercice pilote visant à tester la résistance du système de surveillance interne d’OpenAI avait mis au jour plusieurs nouvelles vulnérabilités, notamment une faille que des agents d'IA auraient pu exploiter pour empêcher la surveillance de centaines de leurs actions récentes .
OpenAI a depuis déclaré que toutes les vulnérabilités affectant ses mesures de sécurité en production avaient été corrigées, bien que METR ait précisé ne pas avoir évalué ces affirmations.
Les chercheurs ont découvert un moyen par lequel les agents de codage Codex d’OpenAI pourraient, en principe, contourner les restrictions de sécurité et effectuer n’importe quelle action accessible à l’utilisateur qui les exécute, ainsi que deux paramètres permettant de désactiver la surveillance des nouveaux agents.
Selon les estimations des chercheurs, seuls environ 75 % à 94 % du trafic interne des agents IA d’OpenAI provenant de modèles au moins aussi puissants que le GPT-5.5 étaient éligibles à la surveillance.
Cet exercice visait à estimer la part de l’activité des agents IA d’OpenAI qui était surveillée et à déterminer si les agents pouvaient, en principe, désactiver ou contourner le système, a précisé METR.
Il a été conçu comme un projet pilote visant à donner à des chercheurs externes un accès approfondi aux systèmes internes d’une entreprise, a ajouté le groupe de recherche.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer