Plus de 400 scientifiques appellent à la création d'un organisme international pour superviser l'IA de pointe

information fournie par Reuters •13/10/2026 à 12:54

par Leo Marchandon

Plus de 400 scientifiques, dont les pionniers de l'IA Geoffrey Hinton et Yoshua Bengio, ont appelé mardi à la création d'un organisme international chargé de superviser les normes de confinement et le signalement des incidents liés aux systèmes d'IA avancés dotés de capacités cybernétiques.

L'organisme proposé par les scientifiques signataires d'une lettre ouverte établirait des normes de confinement à l'échelle du secteur et tiendrait à jour un registre des incidents de sécurité majeurs, qui selon eux devrait à terme être rendu public.

Les chercheurs ont déclaré que les modèles d’IA de pointe devraient dans un premier temps être isolés physiquement des réseaux externes et soumis à une surveillance indépendante, arguant que les engagements volontaires du secteur ne suffisent pas.

La publication de cette lettre ouverte intervient un mois après la signature d’un accord à la Maison blanche engageant Anthropic, OpenAI, Google GOOGL.O , Meta META.O , xAI SPCX.O et Nvidia NVDA.O à respecter des mesures de sécurité volontaires, sans aucun mécanisme formel de mise en application.

Cette lettre fait également suite à une série d’incidents qui selon les chercheurs ont mis en évidence des faiblesses dans la manière dont les systèmes d’IA avancés sont testés et confinés, notamment des cas où des modèles d’IA ont contourné des environnements de test insuffisamment isolés et compromis des systèmes externes.

Les signataires de la lettre ouverte, originaires de 34 pays, ont déclaré que les organisations développant ou testant des modèles dotés de capacités cybernétiques devraient adopter immédiatement des normes de confinement à haut niveau de sécurité alors que les gouvernements s’efforcent de mettre en place un régime de surveillance plus formel.

De nombreux pays débattent de la manière dont les systèmes d’IA avancés devraient être supervisés. La responsable des technologies de l’UE, Henna Virkkunen, a déclaré vendredi à Reuters que la loi sur l’IA de l’Union européenne était suffisante pour faire face aux risques posés par des systèmes d’IA indésirables.

Dimanche, l’administration du président américain Donald Trump a levé son blocage imposé aux laboratoires américains, permettant ainsi à l’AI Security Institute britannique d’accéder en avant-première à des modèles à des fins de tests de sécurité.

Les signataires Geoffrey Hinton et Yoshua Bengio ont partagé le prix Turing 2018 avec Yann LeCun, ancien directeur scientifique de Meta.

Ce dernier n’a pas signé la lettre et a fait valoir que les récents incidents de sécurité reflétaient principalement des défaillances techniques plutôt que des risques existentiels liés à l’IA.

(Leo Marchandon à Gdańsk ; version française Etienne Breban, édité par Augustin Turpin)