((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) (Ajout de la déclaration d'Anthropic au cinquième point)
Plus de 1.100 employés de grandes entreprises technologiques ont exhorté mardi le gouvernement américain à soutenir une initiative internationale visant à développer des outils permettant de réguler le rythme des avancées en matière d’IA.
Cette déclaration intervient alors que les entreprises spécialisées dans l’IA s’efforcent de mettre au point des systèmes de plus en plus puissants, ce qui suscite des inquiétudes quant au fait que ces avancées pourraient dépasser les mécanismes existants en matière de sécurité, de gouvernance et de contrôle.
Voici quelques détails supplémentaires:
* Cette initiative, baptisée « Pacing the Frontier », rassemble des employés de Meta Platforms META.O , d’Anthropic, d’OpenAI et de Google ( GOOGL.O , filiale d’Alphabet), avec le soutien des associations à but non lucratif Guidelight AI Standards et Encode AI.
* « Nous demandons au gouvernement américain de soutenir un effort international visant à développer les outils techniques et de gouvernance nécessaires pour réguler de manière réfléchie les limites du développement de l’IA automatisée », indique le communiqué.
* Parmi les signataires figurent Dario Amodei, directeur général d’Anthropic, ainsi que plusieurs cofondateurs, Dawn Song, vice-présidente de la recherche en IA chez Meta, et Jakub Pachocki, directeur scientifique d’OpenAI.
* En réponse à cette déclaration, OpenAI a publié un message sur X: « Nous pensons qu’à un moment donné dans le futur, l’accélération de l’IA pour le développement de modèles de pointe pourrait être si forte que le monde devra modérer le rythme des progrès de l’IA. »
* « Nos propres recherches sur l’auto-amélioration récursive, publiées le mois dernier, soulignent la nécessité de disposer d’outils permettant de réguler délibérément la progression vers les frontières du développement de l’IA afin que la société puisse s’y préparer », a déclaré Anthropic dans un message publié sur X.
* Le mois dernier, le créateur du « Claude Code » a appelé les principaux laboratoires d’IA à envisager une pause coordonnée dans le développement , avertissant que les progrès technologiques pourraient bientôt permettre aux systèmes d’IA de s’améliorer plus rapidement que la société ne peut gérer les risques.
* Par ailleurs, Nvidia NVDA.O a annoncé lundi avoir formé une coalition avec Adobe ADBE.O , CrowdStrike CRWD.O et d’autres acteurs afin de développer des outils de sécurité de l’IA et de cybersécurité, après qu’un récent incident de cybersécurité chez Hugging Face a exacerbé les inquiétudes concernant les agents IA autonomes.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer