((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
par Leo Marchandon
Environ 400 scientifiques, dont les pionniers de l'IA Geoffrey Hinton et Yoshua Bengio, ont appelé mardi à la création d'un organisme international chargé de superviser les normes de confinement et le signalement des incidents concernant les systèmes d'IA avancés dotés de capacités cybernétiques.
L'organisme proposé établirait des normes de confinement à l'échelle du secteur et tiendrait à jour un registre des incidents de sécurité majeurs, qui, selon les scientifiques, devrait à terme être rendu public.
Dans une lettre ouverte, les chercheurs ont déclaré que les modèles d’IA de pointe devraient dans un premier temps être isolés physiquement des réseaux externes et soumis à une surveillance indépendante, arguant que les engagements volontaires du secteur ne suffisent pas.
Cette proposition intervient un mois après qu’Anthropic, OpenAI, Google GOOGL.O , Meta META.O , xAI SPCX.O et Nvidia
NVDA.O ont signé un accord à la Maison Blanche s’engageant à respecter des mesures de sécurité volontaires sans aucun mécanisme formel de mise en application.
Cette lettre fait également suite à une série d’incidents qui, selon les chercheurs, ont mis en évidence des faiblesses dans la manière dont les systèmes d’IA avancés sont testés et confinés, notamment des cas où des modèles d’IA ont contourné des environnements de test insuffisamment isolés et compromis des systèmes externes.
Les signataires, issus de 34 pays, ont déclaré que les organisations développant ou testant des modèles dotés de capacités cybernétiques devraient immédiatement adopter des normes de confinement à haut niveau de sécurité, tandis que les gouvernements s’efforcent de mettre en place un régime de surveillance plus formel.
Les décideurs politiques débattent de plus en plus de la manière dont les systèmes d’IA avancés devraient être supervisés. La responsable des technologies de l’UE, Henna Virkkunen, a déclaré vendredi à Reuters que la loi sur l’IA de l’Union européenne était suffisante pour faire face aux risques posés par des systèmes d’IA indésirables.
Dimanche, l’administration Trump a levé son blocage imposé aux laboratoires américains, permettant ainsi à l’AI Security Institute britannique d’accéder en avant-première à des modèles à des fins de tests de sécurité.
Hinton et Bengio ont partagé le prix Turing 2018 avec Yann LeCun, de Meta, un autre chercheur de premier plan dans le domaine de l’IA. LeCun n’a pas signé la lettre et a fait valoir que les récents incidents de sécurité reflétaient principalement des défaillances techniques plutôt que des risques existentiels liés à l’IA.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer