((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
par Courtney Rozen
Anthropic a déclaré au gouverneur de Californie, Gavin Newsom, que les responsables gouvernementaux devraient pouvoir demander des ordonnances judiciaires visant à bloquer la diffusion de modèles d’IA présentant un « risque grave » pour le public, selon une lettre datée du 15 octobre qui faisait écho aux propositions politiques antérieures de l’entreprise.
Anthropic a elle-même fait l’objet de restrictions gouvernementales concernant ses systèmes d’IA. En juin, l’administration Trump avait ordonné à Anthropic de restreindre immédiatement l’accès étranger à ses modèles Mythos 5 et Fable 5, dotés de capacités cybernétiques, en invoquant des préoccupations de sécurité nationale. Le ministère américain du Commerce a par la suite levé cette injonction.
"Lorsqu’une évaluation conclut qu’un modèle présente un risque grave, le gouvernement devrait pouvoir demander à un tribunal de le bloquer", indique la lettre adressée à Newsom.
Un porte-parole d’Anthropic a confirmé l’authenticité de cette lettre. Le bureau du gouverneur de Californie n’a pas immédiatement répondu à une demande de commentaire.
Anthropic a soumis ces recommandations après que le gouverneur eut réuni, en septembre, un groupe d’experts en intelligence artificielle chargé d’élaborer des propositions concernant les exigences de sécurité en matière d’IA.
L’entreprise a également déclaré s’opposer à l’obligation faite aux développeurs de mettre en place des "kill switches" capables de désactiver des modèles d’IA dans leur intégralité au cas où une entreprise perdrait le contrôle de leurs actions. Anthropic préconise plutôt des interventions plus ciblées, telles que la désactivation d’un agent d’IA problématique ou la suppression de l’accès d’un client spécifique à un modèle, selon la lettre, estimant que ces mesures seraient plus efficaces.
En septembre, un groupe bipartite de sénateurs américains a débattu d’un projet de loi qui donnerait au gouvernement américain le pouvoir de bloquer la mise sur le marché de certains modèles d’IA jugés dangereux, a rapporté Reuters , les entreprises pouvant contester cette décision devant un tribunal fédéral. Le Congrès est parti en pause préélectorale peu après, et les législateurs n’ont pas donné suite à cette proposition.
En juillet, des députés de la Chambre des représentants américaine ont proposé l'"AI Kill Switch Act", qui donnerait aux autorités américaines le pouvoir d’ordonner aux entreprises spécialisées dans l’IA de désactiver les modèles mettant en danger la vie humaine ou l’économie.
Anthropic se prépare à une introduction en bourse aux États-Unis. Cette cotation constituerait l’une des entrées en bourse les plus marquantes de ces dernières années, susceptible de redéfinir les indices de référence, les flux d’investisseurs et le contexte général régissant les actions américaines.
C’est Politico qui a révélé en premier les détails de cette lettre.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer