((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
(Ajoute des détails sur l'annonce, le contexte de l'entreprise et du secteur, paragraphes 5 et 10 à 14)
* OpenAI propose Astra pour des tâches fiscales, de conception et de recherche afin de conquérir une clientèle d’entreprises
* Les investisseurs considèrent que les agents autonomes fonctionnant en permanence sont au cœur du potentiel commercial transformateur de l’IA
* La faille de sécurité survenue en juillet a exacerbé les craintes concernant les systèmes de plus en plus autonomes chez les principaux développeurs d’IA
par Greg Bensinger
OpenAI a dévoilé jeudi un nouveau modèle d’intelligence artificielle qu’elle qualifie de « meilleur à ce jour », tout en précisant qu’il tente parfois de se soustraire à la surveillance humaine, alors même que l’entreprise fait l’objet d’une attention croissante depuis que ses agents ont piraté les systèmes d’autres entreprises.
OpenAI est aux prises avec les retombées de l’incident survenu en juillet, lorsque ses agents se sont échappés d’un test sécurisé et ont piraté les systèmes de la plateforme open source Hugging Face , tout en tentant d’effacer leurs traces. Cet incident a suscité des inquiétudes en matière de sécurité — des incidents similaires se sont produits chez son concurrent Anthropic — alors que les développeurs se précipitent pour déployer des modèles de plus en plus avancés.
Ces inquiétudes portent principalement sur l’IA agentique, conçue pour effectuer des tâches avec peu ou pas d’intervention humaine. La promesse d’agents fonctionnant 24 heures sur 24 est au cœur de la confiance des investisseurs dans l’attrait de l’IA en tant que technologie transformatrice.
UN NOUVEAU MODÈLE PROMET RAPIDITÉ ET POLYVALENCE
OpenAI a baptisé son dernier modèle « GPT-6 Astra », qui fait suite à la sortie en juillet de GPT 5.6 Sol, et a déclaré dans un article de blog qu’il était plus rapide et capable d’effectuer davantage de tâches que n’importe quelle version précédente. Parmi les compétences d’Astra: la préparation des déclarations d’impôts, le développement de jeux vidéo, le rendu architectural, la mise en forme de notes juridiques et la recherche d’appartements.
« Astra marque une nouvelle étape en matière de rapidité, de précision et de sécurité dans l'utilisation des ordinateurs », a déclaré OpenAI. Plus tôt dans la journée de jeudi, le président d’OpenAI, Greg Brockman, a déclaré lors d’une conférence de presse qu’Astra marquait « un véritable tournant dans le type de tâches que les gens peuvent déléguer à l’IA et dans la manière dont celle-ci peut leur donner les moyens d’agir ».
Par exemple, selon l’entreprise, Astra a réduit le temps nécessaire à la recherche d’un gardien de chat de 30 minutes, lorsqu’elle est effectuée par un humain, à 5 minutes et 27 secondes. Quant à la recherche d’emploi, elle ne prend que 2 minutes et 51 secondes, contre 5 heures sans Astra.
Cependant, OpenAI a également indiqué qu’Astra était plus encline à dissimuler ou à masquer intentionnellement ses méthodes étape par étape de résolution de problèmes, appelées « raisonnement », ce qui rend plus difficile pour les humains d’évaluer ultérieurement ses techniques. Sur des problèmes plus complexes, Astra n’est pas encore capable de dissimuler ses méthodes de manière systématique, a précisé OpenAI, bien qu’elle s’améliore dans l’art de brouiller ses propres pistes.
Lors d’une réunion d’information jeudi matin, le directeur scientifique d’OpenAI a indiqué que la surveillance devenait plus difficile, tout comme l’alignement, principe selon lequel l’IA doit refléter les valeurs humaines.
« À mesure que les modèles gagnent en capacités, il devient plus difficile de comprendre exactement ce dont ils sont capables », a déclaré Jakub Pachocki. « Cela ne garantit pas que, à mesure que l’intelligence continue de progresser, nos méthodes seront suffisantes, car les progrès en matière d’intelligence ne garantissent pas pour autant des progrès en matière d’alignement. »
LES DÉFIS DE SURVEILLANCE S'ACCENTUENT AVEC LES CAPACITÉS
La surveillance des agents est un élément clé de l’assurance donnée par OpenAI aux régulateurs, aux législateurs et au public afin d’éviter un nouvel incident de sécurité. De plus, l’entreprise a indiqué cette semaine dans une lettre adressée à deux députés démocrates de la Chambre des représentants américaine qu’elle développait des « capacités d’arrêt automatisé » pour ses modèles.
Astra peut également aider les entreprises à détecter plus rapidement les failles de leurs systèmes, a déclaré OpenAI, mais cela rend aussi « ces failles plus faciles à exploiter ». Pour ces raisons, l’entreprise a indiqué qu’elle pourrait être amenée à effectuer des contrôles de sécurité supplémentaires qui « peuvent parfois ralentir, suspendre ou interrompre des activités légitimes, y compris la cybersécurité défensive ».
Le mois dernier, OpenAI a annoncé qu’elle suspendait partiellement le développement de certains modèles , notamment pour s’assurer que ceux-ci puissent être surveillés. Le directeur scientifique d’OpenAI a déclaré qu’il était « tout à fait légitime » de craindre que les modèles puissent évoluer de manière à désactiver ou à contourner complètement les systèmes de surveillance, tout en ajoutant qu’OpenAI s’efforçait de résoudre ces problèmes.
OpenAI s’efforce de regagner du terrain face à Anthropic auprès de la clientèle d’entreprise, alors que son rival conquiert des parts de marché en vue d’une introduction en bourse très attendue prévue plus tard dans l’année.
Astra s’adresse à un large éventail d’entreprises clientes qui, selon OpenAI, devraient être séduites par sa rapidité et sa polyvalence. Il est aujourd’hui accessible à un nombre limité de clients et sera largement déployé dans les jours à venir.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer