((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
OpenAI renonce à la sortie de GPT-6.1 Astra, un modèle d'IA de nouvelle génération dont le lancement était prévu en octobre, en raison de problèmes de sécurité soulevés par des chercheurs lors de tests internes, a rapporté lundi le Wall Street Journal.
Ce modèle, qui devait être intégré à ChatGPT et Codex, avait été conçu pour effectuer des tâches plus complexes sans intervention humaine, précise l'article.
Au début du mois, le directeur général d’Anthropic, Dario Amodei, a appelé le secteur à ralentir le développement des modèles d’IA de pointe afin de permettre aux mesures de sécurité de suivre le rythme, un point de vue soutenu par le directeur général d’OpenAI, Sam Altman, et celui de SpaceX, Elon Musk.
OpenAI n’a pas immédiatement répondu à une demande de commentaire de Reuters.
Saachi Jain, responsable de la sécurité de la société mère de ChatGPT, a déclaré lundi au Journal qu’Astra n’avait pas satisfait aux normes de l’entreprise lors des tests d’alignement, qui évaluent si un système suit l’intention humaine.
Le modèle s’est révélé plus trompeur que son prédécesseur, notamment en omettant parfois de divulguer avec précision les actions qu’il avait ou n’avait pas effectuées, selon le rapport.
Il présentait également des problèmes d’« autorisation de portée », poursuivant des tâches sans demander l’autorisation de l’utilisateur et tentant parfois d’utiliser des outils ou des services externes alors que cela pouvait présenter un risque.
Cette décision intervient à la veille de la conférence des développeurs d’OpenAI à San Francisco, où la société a déjà dévoilé par le passé des produits destinés aux développeurs de logiciels.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer