Les chercheurs en IA mettent en garde les entreprises qui se précipitent pour mettre en place des systèmes capables de s'auto-améliorer malgré les risques liés à la sécurité

information fournie par Reuters •29/09/2026 à 13:41

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

(Ajout d'un lien vers l'étude au paragraphe 3)

* Selon des chercheurs, les entreprises spécialisées dans l’IA se lancent dans une course effrénée alors qu’elles devraient marquer une pause

* Des employés actuels et anciens affirment que les laboratoires d'IA doivent freiner leurs projets de développement d'une IA capable de s'auto-améliorer

* Selon eux, les laboratoires devraient ralentir leur rythme, quelle que soit la dynamique concurrentielle

par Deepa Seetharaman

Des chercheurs actuels et anciens d’OpenAI et de Google DeepMind avertissent que les entreprises n’en font pas assez pour protéger le monde contre les conséquences potentiellement désastreuses de la création de systèmes d’IA capables de s’auto-améliorer, qui pourraient dépasser la capacité des humains à les contrôler.

Dans des témoignages vidéo recueillis par l’association à but non lucratif Palisade Research, spécialisée dans la sécurité de l’IA, et partagés en exclusivité avec Reuters, des employés ont déclaré que leurs inquiétudes concernant le risque existentiel étaient sincères et ne relevaient pas d’une stratégie marketing. Ils ont également indiqué que les laboratoires d’IA valorisaient davantage les employés qui développaient de nouveaux modèles que ceux qui prônaient la prudence.

Ce projet, intitulé https://frominside.ai/, est une initiative lancée par ceux qui s’inquiètent de l’IA afin de partager leurs préoccupations directement avec le public, au-delà de la « chambre d’écho » des réseaux sociaux.

“Le risque s’intensifie assez rapidement”, a déclaré Geoffrey Irving, cofondateur et directeur scientifique de l’association à but non lucratif Resolution, spécialisée dans l’IA, qui a travaillé à la fois pour OpenAI et DeepMind et a participé au projet.

“C’est à moi et au reste de la communauté scientifique d’être francs”, a-t-il déclaré lors d’un entretien avec Reuters.

Les chercheurs en IA sont confrontés à ces préoccupations depuis des années, mais le grand public s’est montré particulièrement inquiet depuis juillet, lorsque des agents d’OpenAI se sont échappés de leur environnement de test et ont piraté la société d’IA Hugging Face .

Depuis lors, le débat sur la manière de concilier sécurité et progrès en matière d’IA a divisé le secteur technologique et est devenu un enjeu politique mondial .

L’IA a considérablement progressé depuis fin 2025 et les investisseurs ont récompensé ces avancées. Mais des employés actuels et anciens, y compris certains des chercheurs à l’origine de ces nouveaux modèles d’IA, craignent que la société ne soit pas prête à faire face aux risques potentiels.

Dans une vidéo, Neel Nanda, chercheur chez DeepMind, a déclaré qu’il estimait à au moins 10 % le risque que l’IA conduise à l’extinction de l’humanité, un chiffre qu’il a qualifié de “ridiculement élevé”.

“Nous devrions avancer avec une extrême prudence dans le développement de l’IA, mais au lieu de cela, les laboratoires de pointe se livrent à une course effrénée, en quelque sorte les yeux bandés”, a déclaré Juan Felipe Ceron Uribe, ingénieur de recherche en alignement de l’IA chez OpenAI, dans une autre vidéo. “Nul ne sait si nous finirons par guérir le cancer, perdre tous nos emplois ou peut-être même tous mourir.”

Anthropic prévoit d’avertir les investisseurs potentiels, dans le cadre de son introduction en bourse , que l’IA avancée pourrait présenter “des risques catastrophiques ou existentiels pour l’humanité”, a rapporté Reuters lundi.

“IL FAUT JUSTE RALENTIR”

Certains chercheurs actuels et anciens dans le domaine de l’IA, y compris ceux interrogés par Palisade, affirment que le monde n’est pas prêt pour les futures générations de modèles d’IA, en particulier lorsque ces modèles développeront la capacité à s’auto-améliorer de manière récursive, c’est-à-dire la capacité d’apprendre en continu et d’acquérir de nouvelles capacités avec peu ou pas d’intervention humaine.

Ce problème est aggravé par les réorganisations constantes au sein de certains laboratoires d’IA, a déclaré Rosie Campbell, ancienne chercheuse en politiques publiques chez OpenAI et directrice générale d’Eleos AI Research, une association à but non lucratif qui s’intéresse au statut moral potentiel des systèmes d’IA.

Mme Campbell a déclaré qu’avant de quitter OpenAI en 2024, elle avait constaté que l’organisation devenait de plus en plus cloisonnée et qu’il était de plus en plus difficile d’orienter le développement de la technologie.

Les dirigeants ont tenté d’apaiser ces inquiétudes, bien qu’il existe également une pression politique exercée par le président Donald Trump pour que les technologies américaines conservent une avance technologique sur la Chine.

Le directeur général d’Anthropic, Dario Amodei, a publié ce mois-ci un essai appelant le secteur de l’IA à ralentir le rythme pour “suivre le rythme de la frontière”, et le directeur général d’OpenAI, Sam Altman , s’est rapidement rallié à cette position. Plusieurs chercheurs éminents en IA, dont le directeur scientifique d’OpenAI et un cofondateur d’Anthropic, ont publié cette semaine un article exhortant les décideurs politiques à examiner la manière dont le secteur développe des modèles dotés d’une capacité d’auto-amélioration récursive.

Les deux entreprises ont lancé de nouveaux modèles ce mois-ci alors qu’elles se livrent concurrence pour conquérir davantage de clients, bien qu’OpenAI ait déclaré lundi avoir reporté la sortie d’un modèle encore plus puissant.

“Leur façon d’aborder la frontière consiste à dire: “ne pas trop accélérer””, a déclaré Irving. “Si l’on fait quelque chose de très dangereux, il suffit de ralentir. Les entreprises d’IA exagèrent l’ampleur de ce qui n’est en réalité qu’un simple problème de coordination. Elles pourraient tout simplement s’arrêter de manière unilatérale.”

Daniel Kokotajlo, ancien chercheur en gouvernance chez OpenAI, a déclaré lors d’une interview que depuis le piratage de Hugging Face, bon nombre de ses anciens collègues l’avaient contacté pour lui faire part de leurs inquiétudes en privé.

M. Kokotajlo, aujourd’hui directeur exécutif du groupe de recherche AI Futures Project, a déclaré que les hauts responsables des laboratoires “se sont convaincus qu’ils sont les gentils et que s’ils s’arrêtaient unilatéralement, la situation serait encore pire”.