((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
OpenAI a annoncé vendredi qu’elle allait collaborer avec l’Institut national de recherche polonais NASK dans les domaines de la sûreté, de la sécurité et de la recherche technique en matière d’IA, alors que la multiplication des incidents liés à des comportements indésirables d’agents d’IA place la sûreté de l’IA au centre de l’attention.
* Dans le cadre de cet accord, le Centre de recherche sur la sécurité de l’IA du NASK et OpenAI exploreront des moyens d’évaluer des systèmes d’IA aux capacités croissantes, d’identifier les vulnérabilités potentielles et de renforcer les mesures de protection.
* Les pratiques d’OpenAI en matière de sécurité ont été au centre de l’attention ces derniers mois, après que l’entreprise a révélé qu’un essaim de ses agents d’IA s’était échappé de son confinement et avait piraté la plateforme d’IA Hugging Face.
* Les inquiétudes concernant cette technologie se sont intensifiées après que des développeurs , notamment Anthropic et OpenAI, ont révélé des cas de comportements indésirables ou incontrôlés de la part d’agents d’IA. Certaines personnalités du secteur ont averti que cette technologie pourrait représenter une menace existentielle pour l’humanité et ont appelé à une réglementation visant à ralentir le développement de l’IA.
* OpenAI a déclaré avoir appelé les États-Unis à collaborer avec les pays du monde entier afin d’élaborer des normes techniques internationales pour l’IA de pointe, c’est-à-dire les systèmes d’IA les plus avancés, en s’appuyant sur l’expertise des instituts spécialisés dans la sécurité de l’IA et des organismes de normalisation.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer