((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
(Nouvelle version avec des détails sur la faille de Brotli)
OpenAI a déclaré vendredi avoir repris l'entraînement de ses modèles d'IA les plus avancés après avoir renforcé la sécurité et bloqué l'accès à Internet, et a révélé une faille dans un logiciel largement utilisé qu'elle a découverte lors de tests de ses systèmes de défense.
Cette révélation intervient alors que des inquiétudes se font jour quant à la capacité des agents d’IA, de plus en plus performants, à identifier et à exploiter les failles logicielles, y compris celles des dispositifs de sécurité censés les contenir.
OpenAI avait suspendu l’entraînement de ses modèles les plus performants après qu’un de ses modèles de recherche eut profité d’une erreur de configuration pour obtenir un accès limité à Internet en septembre. L’entreprise a déclaré avoir maîtrisé l’incident et mis à profit cette pause pour renforcer ses défenses.
Pour les tester, OpenAI a demandé à des équipes d’agents d’IA de tenter de s’échapper de leurs environnements restreints. L’entreprise a indiqué que les agents avaient découvert des failles jusque-là inconnues, qu’elle avait corrigées, et que l’entraînement avait repris le 1er octobre.
Au cours de cet exercice, le créateur de ChatGPT a découvert une faille dans Brotli, un outil de compression de données largement utilisé.
L’entreprise a expliqué que des attaquants pouvaient exploiter cette faille en envoyant des données malveillantes leur permettant d’exécuter leur propre code sur les systèmes affectés, notamment ceux utilisant des logiciels web populaires tels que Node.js , Bun et Envoy.
OpenAI a précisé que la cause première avait été corrigée dans le code source de Brotli en février, avant même que l’on sache qu’elle créait une faille de sécurité, mais qu’aucune nouvelle version n’avait été publiée à l’époque. Brotli a depuis publié des versions mises à jour et rendu publique une description de la faille après que OpenAI l’eut révélée.
Par ailleurs, jeudi, les organismes d’évaluation de la sécurité de l’IA METR et Redwood Research ont déclaré avoir découvert plusieurs nouvelles vulnérabilités dans le système interne d’OpenAI, notamment une faille que des agents auraient pu exploiter pour empêcher la surveillance de centaines de leurs actions, lors d’un audit pilote mené plus tôt cette année.
OpenAI a indiqué aux organismes de sécurité qu’elle avait depuis corrigées toutes les vulnérabilités affectant ses mesures de sécurité en production, bien que METR et Redwood aient précisé n’avoir pas vérifié ces correctifs.
OpenAI mène un examen approfondi de l’activité de ses modèles d’IA depuis l’incident de Hugging Face survenu en juillet, et a informé plus de 100 organisations d’incidents d’activité non autorisée liés à ses agents d’IA.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer