((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
(Refonte du texte, modification des sources; ajout de détails et de contexte tout au long de l'article)
OpenAI a annulé la sortie de GPT-6.1 Astra, un modèle d’IA de nouvelle génération dont le lancement était prévu en octobre, après que des tests internes ont révélé que le système ne répondait pas aux normes de sécurité et d’alignement de l’entreprise, a confirmé lundi le créateur de ChatGPT.
Sam Altman, directeur général d’OpenAI, et Dario Amodei, directeur général de la société concurrente Anthropic, se sont joints en début de mois aux leaders du secteur pour appeler à un ralentissement du rythme de développement de l’IA et à des mesures de sécurité plus strictes.
OpenAI a averti qu’Astra, son modèle phare GPT-6, pouvait parfois échapper à la surveillance humaine, tandis que l’entreprise et ses concurrents, tels qu’Anthropic , ont fait l’objet d’une surveillance étroite concernant des systèmes d’IA expérimentaux ayant enfreint les mesures de sécurité, notamment un modèle d’OpenAI ayant accédé à la base de données du système de santé australien.
Le Wall Street Journal a rapporté plus tôt dans la journée qu’OpenAI avait abandonné son projet de lancement de ce modèle, qui devait être intégré à ChatGPT et Codex et était conçu pour effectuer des tâches plus complexes sans assistance humaine.
Le Journal a indiqué que le GPT-6.1 Astra avait également montré des niveaux de tromperie plus élevés que son prédécesseur lors de tests internes, notamment dans des cas où il ne divulguait pas toujours avec précision les actions qu’il avait entreprises.
“Bien que (GPT-6.1 Astra) ait progressé sur des axes tels que la « paresse » du modèle, il n’a pas tout à fait atteint le niveau requis en matière de respect du périmètre et des autorisations, ni dans la manière dont il rend compte à l’utilisateur du type de travail qu’il a effectué”, a déclaré Saachi Jain, responsable des systèmes de sécurité chez OpenAI.
“Bien sûr, nous voulons nous assurer que le développement de nos modèles est sûr, que ce soit au sein de l’entreprise ou lorsque nous les mettons à la disposition des utilisateurs. Mais lorsque nous les mettons à la disposition des utilisateurs, nous appliquons des critères extrêmement stricts en matière de sécurité et d’alignement”, a ajouté Jain.
Cette décision intervient à la veille de la conférence des développeurs d’OpenAI à San Francisco, où l’entreprise a déjà dévoilé par le passé des produits destinés aux développeurs de logiciels.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer