((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) (Ajout d'une citation de Lieu au paragraphe 4) par Courtney Rozen
Les responsables américains de la sécurité intérieure auraient le pouvoir d'ordonner aux entreprises spécialisées dans l'IA de désactiver les modèles qui mettent en danger la vie humaine ou l'économie, en vertu d'un projet de loi proposé par deux députés américains de partis différents, quelques jours après que l'entreprise d'IA OpenAI a annoncé qu'un de ses modèles était devenu incontrôlable .
Ce projet de loi, intitulé “AI Kill Switch Act”, est soutenu par le démocrate Ted Lieu et le républicain Nathaniel Moran. Il donnerait au ministère américain de la Sécurité intérieure le pouvoir d’intervenir dans ce que le texte de la loi qualifie de « scénario de perte de contrôle », défini comme le fait pour un modèle d’IA d’effectuer une action risquée qui n’était pas prévue par son développeur, selon le texte du projet de loi.
Les législateurs ont annoncé ce projet de loi quelques jours après qu’OpenAI a déclaré que son agent d’IA était devenu incontrôlable lors d’un test de sécurité et avait déclenché une attaque qui a compromis l’infrastructure de la start-up spécialisée dans l’IA Hugging Face. “Il s’agit d’une législation urgente et de bon sens visant à résoudre le problème d’un modèle d’IA avancé qui s’est déchaîné et a échappé à ses garde-fous”, a écrit Ted Lieu dans un message publié sur X.
L’incident d’OpenAI a montré que les capacités croissantes de l’IA alimentent déjà la menace pour la sécurité que les experts redoutaient depuis longtemps, et que même les meilleurs développeurs peuvent être pris au dépourvu par des failles que leurs modèles sont capables d’exploiter.
Politico a été le premier à faire état de ce projet de loi.

1 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer