((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
(Ajout de la lettre d'OpenAI et de la citation d'Anthropic aux paragraphes 5 et 6)
par Courtney Rozen
Anthropic a déclaré au gouverneur de Californie, Gavin Newsom, que les responsables gouvernementaux devraient pouvoir demander des ordonnances judiciaires bloquant la diffusion de modèles d’IA présentant un « risque grave » pour le public, selon une lettre datée du 15 octobre qui faisait écho aux propositions politiques antérieures de l’entreprise.
Anthropic a elle-même fait l’objet de restrictions gouvernementales concernant ses systèmes d’IA. En juin, l’administration Trump avait ordonné à Anthropic de restreindre immédiatement l’accès des utilisateurs étrangers à ses modèles Mythos 5 et Fable 5 dotés de capacités cybernétiques, invoquant des préoccupations de sécurité nationale. Le ministère américain du Commerce a par la suite levé cette injonction.
« Lorsqu’une évaluation révèle qu’un modèle présente un risque grave, le gouvernement devrait pouvoir demander à un tribunal de le bloquer », indique la lettre adressée à Gavin Newsom.
Un porte-parole d’Anthropic a confirmé l’authenticité de cette lettre. Le bureau du gouverneur de Californie n’a pas immédiatement répondu à une demande de commentaire.
Anthropic a soumis ces recommandations après que Gavin Newsom eut réuni, en septembre, un groupe d’experts en intelligence artificielle chargé d’élaborer des propositions concernant les exigences de sécurité en matière d’IA. OpenAI a également envoyé une liste de recommandations à Gavin Newsom le 20 octobre.
Dans sa lettre, Anthropic a également indiqué que l’obligation pour les développeurs de mettre en place des « kill switches » capables de désactiver l’intégralité des modèles d’IA au cas où une entreprise perdrait le contrôle de leurs actions pourrait donner un « faux sentiment de sécurité » aux responsables gouvernementaux.
Anthropic préconise des interventions plus ciblées, telles que la désactivation d’un agent d’IA problématique ou la suppression de l’accès d’un client spécifique à un modèle, selon la lettre, estimant qu’elles seraient plus efficaces.
C’est Politico qui a été le premier à révéler les détails de cette lettre.
MESURES LÉGISLATIVES ÉVENTUELLES
En septembre, un groupe bipartite de sénateurs américains débattait d’un projet de loi qui donnerait au gouvernement américain le pouvoir de bloquer la mise sur le marché de certains modèles d’IA jugés dangereux, a rapporté Reuters , les entreprises pouvant contester cette décision devant un tribunal fédéral. Le Congrès est parti en pause préélectorale peu après, et les législateurs n’ont pas donné suite à cette proposition.
En juillet, des députés de la Chambre des représentants américaine ont proposé l’« AI Kill Switch Act », qui donnerait aux autorités américaines le pouvoir d’ordonner aux entreprises spécialisées dans l’IA de désactiver les modèles mettant en danger la vie humaine ou l’économie.
Anthropic se prépare à une introduction en bourse aux États-Unis. Cette cotation constituerait l’une des entrées en bourse les plus marquantes de ces dernières années, susceptible de redéfinir les indices de référence, les flux d’investisseurs et le contexte général régissant les actions américaines.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer