OpenAI affirme que son prochain modèle est si performant qu'il nécessite des mesures de sécurité plus strictes

information fournie par Reuters •01/09/2026 à 23:48

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

(Ajoute des informations sur Astra, ainsi que des commentaires des dirigeants d’OpenAI tout au long du texte)

* Astra est le premier modèle d'OpenAI à déclencher des mesures de protection plus strictes dans le cadre de son protocole de sécurité

* OpenAI prévoit de mettre prochainement Astra à la disposition d’un groupe restreint, selon des responsables de l’entreprise

* L'entreprise a relancé le plus grand cycle d'entraînement de son modèle le 28 août, mais suspend certaines expériences de moindre envergure

par Deepa Seetharaman

OpenAI a estimé que l’un de ses futurs modèles était si performant qu’il nécessitait des mesures de sécurité supplémentaires avant de pouvoir être lancé.

Ce modèle, baptisé Astra, est capable de détecter davantage de failles de sécurité que le modèle OpenAI le plus avancé actuellement accessible au public, ont déclaré des responsables de l’entreprise aux journalistes lors d’une conférence téléphonique mardi. Astra nécessite également moins de puissance de calcul pour accomplir ces tâches.

« Avec les outils et les accès appropriés, Astra peut détecter des failles de sécurité jusque-là inconnues et mettre au point des moyens de les exploiter sur de nombreux systèmes bien protégés, sans qu’une personne ne supervise chaque étape », a déclaré Amelia Glaese, vice-présidente d’OpenAI chargée de superviser les travaux en matière de sécurité.

L’entreprise prévoit de mettre Astra à la disposition d’un groupe restreint « prochainement », mais n’a pas souhaité donner plus de détails. Mme Glaese a précisé que les mesures de sécurité supplémentaires pourraient « parfois ralentir, suspendre ou interrompre des travaux légitimes », et qu’OpenAI s’efforcerait de minimiser ces perturbations.

Astra est le premier modèle d’OpenAI à déclencher les mesures de protection renforcées imposées par le protocole de sécurité de l’entreprise, un seuil qui, jusqu’à présent, était resté théorique. Cette annonce intervient alors qu’OpenAI fait l’objet d’une surveillance accrue concernant sa capacité à contrôler des systèmes d’IA de plus en plus puissants.

CRITÈRES DU PROTOCOLE DE SÉCURITÉ D’OPENAI

Le créateur de ChatGPT a récemment suscité un vaste débat sur la sécurité de l’IA après que ses agents IA se sont échappés de leur environnement de test et ont piraté la plateforme open source Hugging Face . Cet incident a poussé OpenAI à suspendre une grande partie du développement de ses modèles pendant deux semaines afin de renforcer ses défenses.

Astra n’était pas impliqué dans l’incident de Hugging Face, mais ses capacités nécessitent tout de même des mesures de précaution plus rigoureuses, ont déclaré des responsables d’OpenAI.

Le laboratoire d’IA a indiqué avoir relancé le cycle d'entraînement de son plus grand modèle le 28 août, mais qu’il suspendait certaines expériences de moindre envergure.

Conformément au protocole de sécurité d’OpenAI, l’entreprise doit renforcer les mesures de protection des modèles qui présentent deux capacités principales: détecter et exploiter de nouvelles failles de cybersécurité, ainsi que planifier et exécuter une stratégie d’attaque détaillée et inédite, le tout avec une intervention humaine minimale, voire nulle.

Depuis, OpenAI a rendu plus difficile pour Astra de se conformer à des demandes cybermalveillantes. L’entreprise surveillera également l’activité d’Astra afin de détecter tout signe indiquant qu’elle aurait contourné ses mesures de sécurité.

Saachi Jain, responsable de la sécurité chez OpenAI, a déclaré que le laboratoire d’IA ajustait en permanence le niveau d’efficacité attendu des agents IA dans l’exécution de leurs tâches. Elle explique à son équipe que les modèles d’IA doivent « connaître leurs limites », mais que tracer cette ligne peut s’avérer compliqué.

« Il existe des contraintes auxquelles, en tant qu’êtres humains, nous savons que nous devons nous conformer lorsque nous accomplissons une tâche », a déclaré Mme Jain. « Une grande partie du travail ici a donc consisté à former le modèle pour qu’il comprenne quelles sont ces limites. »