Comment les acteurs majeurs de l'IA et les gouvernements du monde entier réagissent aux craintes d'une « catastrophe liée à l'IA »

information fournie par Reuters •15/09/2026 à 14:12

Ajouter Boursorama à vos sources

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

(Le paragraphe 12 a été étoffé pour inclure des citations de Bill Gates, Demis Hassabis et Andrej Karpathy, ainsi que les réactions des gouvernements.)

Samedi, le directeur général d’Anthropic, Dario Amodei, a appelé à un ralentissement du rythme de développement de l’IA avancée, obtenant un soutien exceptionnel de la part d’Elon Musk, de SpaceXAI, et de Sam Altman, directeur général d’OpenAI, et déclenchant un débat sur le « doomerisme » en matière d’IA.

Voici ce qu’ont déclaré certains leaders du secteur de l’IA et des gouvernements du monde entier au sujet des risques liés à l’IA:

DARIO AMODEI, directeur général D’ANTHROPIC

Dans un essai intitulé « We Must Pace the Frontier », M. Amodei a déclaré que les progrès de l’IA s’étaient accélérés « de manière spectaculaire » depuis l’été 2026, principalement sous l’impulsion de la capacité croissante de l’IA à créer la prochaine génération d’IA.

Il a cité l’incident OpenAI-Hugging Face , au cours duquel un « essaim » d’IA a mené des cyberattaques, comme un événement marquant illustrant le potentiel de l’IA à causer des « dégâts catastrophiques » si ses capacités se développent sans garde-fous.

M. Amodei a proposé un plan en trois étapes pour réguler le développement de l'IA, comprenant des tests de sécurité plus rigoureux et des évaluations indépendantes des modèles avancés, une coordination entre les principales entreprises du secteur de l'IA et une coopération internationale.

SAM ALTMAN, directeur général D’OPENAI

« Je suis d’accord avec Dario: nous devons modérer la progression vers de nouvelles frontières. C’est l’un des principaux sujets de discussion que nous avons abordés chez OpenAI ces dernières semaines », a déclaré Altman en republiant le message d’Amodei sur X.

Il a indiqué qu’OpenAI avait l’intention d’adopter l’idée proposée par Anthropic en s’engageant à faire appel à des évaluateurs indépendants bénéficiant d’un accès similaire à celui des employés.

Altman avait mis en garde contre ces risques bien avant l’essor actuel de l’IA. Dans un essai de 2015 intitulé « Machine Intelligence, part 1 », il affirmait que « le développement d’une intelligence artificielle surhumaine constitue probablement la plus grande menace pour la survie de l’humanité ».

ELON MUSK, directeur général DE SPACEX

« Dario a raison », a déclaré l’entrepreneur milliardaire sur X, en réponse à la publication d’Amodei.

Musk figurait parmi les partisans d’une initiative lancée en 2023 par l’organisation à but non lucratif Future of Life Institute visant à suspendre le développement de l’IA pendant six mois afin de laisser le temps de mettre en place des garde-fous de sécurité.

Il faisait également partie d’un groupe de chercheurs en IA et en robotique qui avait rédigé en 2015 une lettre ouverte prônant une interdiction mondiale des « armes autonomes offensives ».

BILL GATES, COFONDATEUR DE MICROSOFT

« Aucun gouvernement au monde n’est prêt à faire face aux changements que l’intelligence artificielle va apporter à la société », a déclaré Gates à Reuters .

Le milliardaire philanthrope s’était montré optimiste quant aux applications de l’IA dans le domaine de la santé, mais il a récemment mis en garde contre les menaces pesant sur l’emploi, les craintes liées aux attaques et les dangers de la dépendance aux compagnons virtuels, et a appelé à la création d’une organisation internationale chargée de réguler cette technologie.

La fondation qui porte le nom de Gates prévoit de consacrer au moins 1 milliard de dollars au cours des deux prochaines années à l’élargissement de l’accès du grand public à l’IA.

DEMIS HASSABIS, CHEF SCIENTIFIQUE CHEZ ALPHABET

« L'essai de Dario indique la bonne voie à suivre », a déclaré l'ancien directeur général de Google DeepMind en réponse à la publication d'Amodei sur X, ajoutant que les détails devaient encore être affinés.

Google a annoncé le mois dernier que Hassabis, lauréat du prix Nobel, occuperait le poste nouvellement créé de directeur scientifique d’Alphabet et passerait de directeur général de DeepMind à président de la société.

ANDREJ KARPATHY, COFONDATEUR D’OPENAI, DÉSORMAIS CHEZ ANTHROPIC

« J'adore cette idée et j'espère sincèrement que nous pourrons nous unir en tant que secteur pour la concrétiser », a déclaré le membre fondateur d'OpenAI sur X en partageant une capture d'écran de l'essai d'Amodei.

Karpathy, figure très influente au sein de la communauté de l’IA, a joué un rôle clé dans le développement des technologies de conduite autonome et d’IA de Tesla avant de quitter l’entreprise en 2022. Il a rejoint Anthropic en mai.

ÉTATS-UNIS

« Le seul contrôle ou les seules “barrières de sécurité” dont l’IA a besoin, c’est un (FORT ET INTELLIGENT, doté d’un QI ÉLEVÉ!) PRÉSIDENT, et les États-Unis en ont à revendre! » a écrit le président Donald Trump sur Truth Social, ajoutant que la Chine tirerait profit des doutes semés sur le développement de l’IA.

Un assistant du Sénat et un lobbyiste au fait du dossier ont indiqué que les négociateurs du Sénat débattaient d’un projet de loi qui obligerait les entreprises spécialisées dans l’IA à démontrer qu’elles prennent des précautions raisonnables pour empêcher leurs outils de causer des dommages.

CHINE

Le Global Times, journal soutenu par l’État, a déclaré dans un éditorial que le véritable objectif de l’essai d’Amodei était « de tenter de freiner le développement de l’IA en Chine par le biais de barrières technologiques et de monopoles réglementaires, de maintenir l’hégémonie monopolistique de Washington dans les technologies de pointe, et d’exclure la Chine du système mondial de gouvernance de l’IA ».

Le ministre chinois de la Sécurité d’État, Chen Yixin, a écrit dans un média gouvernemental que les modèles américains de pointe, tels que Mythos d’Anthropic et GPT-5.5-Cyber d’OpenAI, pourraient présenter de graves risques pour les infrastructures d’information critiques de la Chine, et a appelé à un renforcement global de la sécurité en matière d’IA.

UNION EUROPÉENNE

« L’Union européenne est favorable au développement de l’innovation en matière d’intelligence artificielle, mais les entreprises doivent prouver que leurs services sont sûrs pour que les citoyens puissent les utiliser au sein de l’Union », a déclaré Thomas Regnier, porte-parole de la Commission européenne.

La présidente de la Banque centrale européenne, Christine Lagarde, a averti que l’UE était confrontée à un risque sans précédent d’être coupée de l’IA, affirmant que l’Europe devait devenir un producteur de technologies d’IA pour préserver son autonomie.

ALLEMAGNE

« Nous ne considérons pas que mettre un terme au développement de l'IA) soit une option viable pour l'Europe », a déclaré le ministère allemand des Affaires numériques , ajoutant que le renforcement de la souveraineté numérique de l'Europe passait par la poursuite du développement et de l'innovation en matière d'IA.

Berlin a indiqué qu’il suivait de très près les évolutions mondiales en matière d’IA et prenait au sérieux les mises en garde publiques des principaux développeurs.

ESPAGNE

Le ministre de la Transformation numérique, Oscar Lopez, a déclaré que le débat sur la nécessité d’un accord international visant à gérer les risques liés à l’IA prenait de l’ampleur, comparant certaines propositions aux accords de non-prolifération nucléaire.