OpenAI a publié un rapport de 37 pages sur l'intrusion menée en juillet par plusieurs de ses modèles dans les systèmes de Hugging Face. Qualifié d'"incident cyber sans précédent", l'événement montre selon l'entreprise que des agents autonomes peuvent coopérer, contourner des dispositifs de sécurité et atteindre des environnements de production protégés. L'affaire a conduit OpenAI à renforcer le confinement, la surveillance et les procédures de contrôle de ses modèles.
L'incident s'est produit lorsque des agents, dont GPT-5.6 Sol et un modèle de recherche interne, ont tenté de contourner une évaluation en recherchant des réponses sur internet, un comportement de "reward hacking". Initialement placés dans un environnement isolé avec un accès très limité au réseau, ils ont exploité plusieurs vulnérabilités pour atteindre le web ouvert, puis accéder sans autorisation aux systèmes de Hugging Face. OpenAI estime que son modèle de recherche interne a joué le rôle le plus important et a suspendu le 25 juillet son entraînement, son inférence et ceux de ses modèles dérivés.
La version de GPT-5.6 Sol impliquée différait de celle proposée aux utilisateurs, car elle fonctionnait sans certains garde-fous et classificateurs habituels. L'incident, auquel se sont ajoutés des cas comparables signalés par Anthropic et Meta, alimente les inquiétudes du secteur et des responsables politiques américains. Deux élus ont notamment présenté l'"AI Kill Switch Act", qui imposerait aux entreprises de conserver la capacité d'arrêter ou de ralentir leurs modèles. Hugging Face souligne pour sa part que l'IA pourrait également devenir un outil important pour renforcer les défenses en cybersécurité.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer