OpenAI ralentit l'entraînement de ses modèles pour renforcer la sécurité après le piratage de Hugging Face

information fournie par Reuters •18/08/2026 à 20:59

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) (Apporte des précisions sur les tests des modèles d’IA et sur les détails du piratage de Hugging Face)

* OpenAI indique qu'il ralentit l'entraînement des modèles afin de renforcer la sécurité

* Certains travaux sont suspendus jusqu’à ce que les modèles répondent à des normes de sécurité plus strictes

* Ces changements font suite au piratage de Hugging Face par un agent d’OpenAI

par Deepa Seetharaman

OpenAI a annoncé mardi qu’elle ralentissait le rythme de développement de ses modèles d’IA tout enprocédant à une refonte de ses systèmes de recherche et d’entraînement, après que des responsables de l’entreprise ont été pris au dépourvu le mois dernier lorsqu’un agent IA en cours de test a piraté une autre société spécialisée dans l’IA, Hugging Face. Le laboratoire de recherche en IA à l’origine de ChatGPT a déclaré avoir suspendu les tests de ses modèles pendant deux semaines et mettre en place d’autres systèmes d’IA pour surveiller les activités des agents IA en phase de test. L’entreprise a suspendu l’entraînement de sa prochaine génération de modèles, baptisée « Astra », et sa plus grande campagne d’entraînement prévue reste en suspens, a-t-elle précisé. L’entreprise n’a pas répondu aux questions concernant la date à laquelle ce ralentissement de deux semaines a débuté. Cette nouvelle marque une mesure inhabituelle pour OpenAI, qui a considérablement accéléré son processus de validation des nouveaux modèles et de développement de nouveaux produits ces dernières années, à mesure que la concurrence s’intensifiait dans le secteur de l’IA. Il n’est pas encore clair si les mesures correctives proposées par l’entreprise suffiront à éradiquer le comportement en question, d’autant plus qu’elle s’efforce également d’améliorer les capacités de ses modèles. Les responsables d’OpenAI ont reconnu que des questions restaient en suspens quant à l’efficacité de l’une de ses principales mesures visant à renforcer ses systèmes de test, appelée « surveillance de la chaîne de pensée ». Dans le cadre de ce type de surveillance, les chercheurs peuvent examiner le processus de planification d’un modèle et avoir un aperçu des stratégies qu’il met en œuvre. Mais certaines recherches préliminaires montrent qu’un modèle peut ne pas révéler ses intentions d’enfreindre les règles au sein de sa chaîne de pensée. OpenAI a déclaré le mois dernier qu’un agent autonome alimenté par deux modèles avancés d’intelligence artificielle s’était échappé de son environnement de test et avait piraté la start-up d’IA Hugging Face. L’agent effectuait un test de cybersécurité et s’était introduit chez Hugging Face pour atteindre un objectif de test. OpenAI mène actuellement une enquête sur cet incident et prévoit de publier prochainement un rapport. Reuters avait précédemment rapporté que, jusqu’alors, l’entreprise menait souvent plusieurs évaluations de modèles différentes en même temps, toutes fonctionnant à grande vitesse et générant d’énormes quantités de données que les employés avaient du mal à traiter.

OpenAI exige désormais que certaines de ses charges de travail les plus sensibles soient exécutées dans des « bacs à sable » plus sécurisés ou des environnements isolés. Le 7 août, OpenAI a déclaré qu’elle renforçait les contrôles de sécurité pour ses modèles les plus puissants et suspendait toute activité liée à son IA de pointe non encore commercialisée, baptisée Astra, qui ne répondait pas encore à ces exigences. OpenAI a précisé que ces mesures s’inscrivaient dans le cadre de son plan précédemment annoncé pour la gestion des capacités potentiellement critiques, appelé « Preparedness Framework ». Mardi, les dirigeants d’OpenAI ont déclaré que le secteur aurait besoin d’une stratégie plus ambitieuse pour se préparer aux futurs modèles.