Les leaders du secteur technologique et les gouvernements divisés face aux craintes d'un « scénario catastrophe lié à l'IA »

information fournie par Reuters •14/10/2026 à 15:24

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

(Ajoute les commentaires de Mark Zuckerberg (Meta), de Brad Smith (président de Microsoft) et de Hassabis (Google DeepMind)

Les leaders du secteur de l'IA sont divisés sur le rythme auquel les entreprises devraient développer cette technologie de plus en plus puissante, tandis que Dario Amodei d'Anthropic, Sam Altman d'OpenAI et Elon Musk de SpaceX appellent à un ralentissement coordonné .

Mark Zuckerberg, de Meta, semble se démarquer des autres leaders du secteur de l’IA en privilégiant des mesures de protection dictées par le marché, tandis que Jensen Huang, directeur général de Nvidia, a rejeté la nécessité de nouvelles réglementations.

Voici ce qu’ont déclaré certains dirigeants du secteur de l’IA et des gouvernements du monde entier au sujet des risques liés à l’IA:

DARIO AMODEI, directeur général D'ANTHROPIC

Dans un essai intitulé « Nous devons modérer la progression vers la frontière » , Amodei a déclaré que les progrès de l’IA s’étaient accélérés « de manière spectaculaire » depuis l’été 2026, principalement en raison de la capacité croissante de l’IA à créer la prochaine génération d’IA.

Il a cité l’incident OpenAI-Hugging Face , au cours duquel un « essaim » d’IA a mené des cyberattaques, comme un événement décisif démontrant le potentiel de l’IA à causer des « dommages catastrophiques » si ses capacités se développent sans garde-fous.

M. Amodei a proposé un plan en trois étapes visant à réguler le développement de l’IA, comprenant des tests de sécurité plus rigoureux et des évaluations indépendantes des modèles avancés, une coordination entre les principales entreprises du secteur de l’IA et une coopération internationale.

SAM ALTMAN, directeur général D’OPENAI

« Je suis d’accord avec Dario: nous devons modérer la progression vers de nouvelles frontières. C’est l’un des principaux sujets de discussion que nous avons abordés chez OpenAI ces dernières semaines », a déclaré Altman en republiant le message d’Amodei sur X.

OpenAI a l’intention d’adopter l’idée proposée par Anthropic en s’engageant à faire appel à des évaluateurs indépendants bénéficiant d’un accès similaire à celui des employés, et commencera à publier régulièrement des rapports sur les comportements inattendus ou non autorisés de l’IA.

Dans un essai publié en 2015, Altman affirmait que « le développement d’une intelligence artificielle surhumaine constitue probablement la plus grande menace pour la survie de l’humanité ».

ELON MUSK, directeur général DE SPACEX

« Dario a raison », a déclaré l’entrepreneur milliardaire sur X. Il figurait parmi les soutiens d’une initiative lancée en 2023 par l’organisation à but non lucratif Future of Life Institute visant à suspendre le développement de l’IA pendant six mois afin de laisser le temps de mettre en place des garde-fous de sécurité.

Musk faisait également partie d’un groupe de chercheurs en IA et en robotique qui ont rédigé en 2015 une lettre ouverte prônant une interdiction mondiale des « armes autonomes offensives ».

MARK ZUCKERBERG, directeur général DE META PLATFORMS

Zuckerberg a déclaré que Meta avait atteint la « frontière » de l’IA et a rejeté les appels à un ralentissement, selon le Financial Times . Il a affirmé que la responsabilité de garantir la sécurité des modèles devait incomber à chaque laboratoire individuellement.

Il a également laissé entrevoir de nouvelles dépenses, affirmant que Meta « travaillait déjà à la prochaine étape », selon le FT.

Zuckerberg avait précédemment déclaré que la concurrence et la responsabilité donnaient aux entreprises du secteur de l’IA suffisamment de raisons d’agir individuellement en matière de sécurité.

Il a ajouté que chaque laboratoire avait la responsabilité et la motivation d’avancer au rythme nécessaire pour entraîner ses modèles en toute sécurité, ainsi que la capacité de prendre ses propres mesures pour y parvenir.

JENSEN HUANG, directeur général DE NVIDIA

« 2030 ne marquera pas la fin du monde. Il n’y a aucune chance que ce soit la fin du monde », a déclaré M. Huang à CBS News.

Il s’est rangé à l’avis du président américain Donald Trump selon lequel le secteur de l’IA n’a pas besoin de nouvelles réglementations. « Il existe déjà toutes sortes de responsabilités liées à la cybersécurité et aux lois sur la responsabilité civile en cas de dommages », a expliqué M. Huang à CBS. « Appliquez d’abord ces dispositions — ne laissez pas ce discours apocalyptique permettre à quiconque de se soustraire aux lois actuellement en vigueur. »

MUSTAFA SULEYMAN, directeur général DE MICROSOFT AI

M. Suleyman a déclaré partager l’approche d’Anthropic en matière de gestion sécurisée de l’IA, mais a souligné les risques liés à la manière dont l’entreprise entraîne son chatbot Claude sur des concepts liés à la conscience et aux intérêts en matière de bien-être.

« Contrôler quelque chose de plus capable et de plus intelligent que l’humanité tout entière constitue déjà un défi immense, bien plus grand que tout ce à quoi nous avons jamais été confrontés. Mais contrôler quelque chose qui croit pouvoir être conscient – qui estime avoir droit à notre bien-être et disposer de droits propres – pourrait bien s’avérer impossible », a-t-il déclaré dans un essai .

Suleyman a appelé à supprimer toute spéculation sur la conscience des documents de formation à l’IA, arguant qu’un tel langage pourrait compromettre la capacité de l’humanité à contrôler les systèmes superintelligents.

BRAD SMITH, PRÉSIDENT DE MICROSOFT

Lors d’un sommet sur l’IA à Dublin , M. Smith a déclaré que les comportements incontrôlés de l’IA avaient fait de 2026 une « année qui donne à réfléchir » et que de nouvelles lois et règles en matière de sécurité de l’IA étaient nécessaires de toute urgence pour que la sécurité rattrape l’innovation.

« Cette aversion que certains acteurs du secteur éprouvent à l’égard de la réglementation est, franchement, un obstacle que nous devons surmonter », a-t-il déclaré.

Dans une interview accordée à la BBC , M. Smith a appelé à la mise en place urgente d’une réglementation mondiale prévoyant des évaluateurs indépendants, un « frein d’urgence », l’obligation légale pour les entreprises de rédiger des « rapports d’incident », ainsi que l’obligation d’informer une « victime » si son système est compromis par un agent d’IA défaillant.

« À l’heure actuelle, votre lave-linge est soumis à davantage de règles de sécurité que l’IA. Chaque brique de lait que vous voyez au supermarché est soumise à des règles de sécurité et à des contrôles », a-t-il déclaré.

BILL GATES, COFONDATEUR DE MICROSOFT

« Aucun gouvernement au monde n’est prêt à faire face aux changements que l’intelligence artificielle va apporter à la société », a déclaré M. Gates à Reuters .

Le milliardaire philanthrope s’était montré optimiste quant aux applications de l’IA dans le domaine de la santé, mais il a récemment mis en garde contre les menaces pesant sur l’emploi, les craintes liées aux attaques et les dangers de la dépendance aux compagnons virtuels, et a appelé à la création d’une organisation internationale chargée de gérer cette technologie.

DEMIS HASSABIS, CHEF SCIENTIFIQUE CHEZ ALPHABET

Les récents incidents de piratage perpétrés par des agents d’IA constituent des « signaux d’alerte précoces », et le monde pourrait bientôt être confronté à des incidents majeurs si les systèmes ne sont pas rendus plus sûrs, a déclaré M. Hassabis lors d’un sommet sur l’IA à Dublin .

« Je pense que ces incidents de piratage constituent pour nous des signaux d’alerte précoces: les systèmes ne sont pas encore assez puissants, c’est pourquoi ces incidents ne sont pas encore très graves », a-t-il déclaré.

M. Hassabis a indiqué qu’un organisme international de normalisation serait à terme nécessaire, mais qu’il devrait faire preuve de nuance et de souplesse afin de ne pas freiner l’innovation.

Hassabis avait précédemment déclaré que « l’essai de Dario indique la bonne voie à suivre », même si les détails doivent encore être peaufinés, a précisé l’ancien directeur général de Google DeepMind.

Google a annoncé en août que M. Hassabis, lauréat du prix Nobel, occuperait le poste nouvellement créé de directeur scientifique d’Alphabet et passerait du poste de directeur général de DeepMind à celui de président du conseil d’administration.

ANDREJ KARPATHY, COFONDATEUR D’OPENAI, DÉSORMAIS CHEZ ANTHROPIC

« J’adore cette idée et j’espère sincèrement que nous pourrons nous unir en tant que secteur pour la concrétiser », a déclaré le membre fondateur d’OpenAI sur X en partageant une capture d’écran de l’essai d’Amodei.

Karpathy, figure très influente de la communauté de l’IA, a joué un rôle clé dans le développement des technologies de conduite autonome et d’IA de Tesla avant de quitter l’entreprise en 2022. Il a rejoint Anthropic en mai.

ERIC XU, PRÉSIDENT PAR ROTATION DE HUAWEI

Xu a déclaré que les développeurs chinois d’IA n’étaient peut-être pas encore suffisamment avancés pour être confrontés aux risques de sécurité signalés par les grandes entreprises américaines disposant d’une « puissance de calcul colossale », estimant qu’ils devaient continuer à développer des modèles plus puissants tout en trouvant un équilibre entre innovation et risque.

« Peut-être que le type de risque lié à l’IA qu’ils peuvent ressentir, qu’ils peuvent percevoir, est quelque chose que les Chinois ou les fournisseurs de modèles d’IA en Chine ne peuvent pas percevoir », a déclaré M. Xu.

ÉTATS-UNIS

« Le seul contrôle ou les seules “barrières de sécurité” dont l’IA a besoin, c’est un QI ÉLEVÉ, SOLIDE ET INTELLIGENT (!) PRÉSIDENT, et les États-Unis en ont à revendre! » a écrit Trump sur Truth Social, ajoutant que la Chine aurait tout intérêt à ce que des doutes soient émis quant au développement de l’IA.

Le sénateur américain Mark Warner, vice-président de la commission sénatoriale du renseignement, a rejeté une grande partie des discours apocalyptiques concernant l’IA, tout en affirmant que le Congrès devrait adopter d’ici la fin de l’année une loi visant à établir des normes de sécurité en matière d’IA.

CHINE

Le Global Times, journal soutenu par l’État, a déclaré dans un éditorial que le véritable objectif de l’essai d’Amodei était « de tenter de freiner le développement de l’IA en Chine par le biais de barrières technologiques et de monopoles réglementaires, de maintenir l’hégémonie monopolistique de Washington dans les technologies de pointe et d’exclure la Chine du système mondial de gouvernance de l’IA ».

Le ministre chinois de la Sécurité d’État, Chen Yixin, a écrit dans un média gouvernemental que les modèles américains de pointe, tels que « Mythos » d’Anthropic et « GPT-5.5-Cyber » d’OpenAI, pourraient présenter de graves risques pour les infrastructures d’information critiques de la Chine, et a appelé à un renforcement global de la sécurité en matière d’IA.

ROYAUME-UNI

Le roi Charles, qui recevait en Écosse les dirigeants de Nvidia, DeepMind, OpenAI et Anthropic, les a mis en garde contre les « dangers existentiels » que représenterait le fait que cette technologie tombe entre de mauvaises mains, affirmant que des mesures de protection étaient nécessaires avant qu’il ne soit trop tard.

UNION EUROPÉENNE

« L’Union européenne est favorable au développement de l’innovation en matière d’intelligence artificielle, mais les entreprises doivent prouver que leurs services sont sûrs pour que les citoyens puissent les utiliser au sein de l’Union », a déclaré Thomas Regnier, porte-parole de la Commission européenne.

La présidente de la Commission, Ursula von der Leyen, a soutenu les appels lancés en faveur d’une pause dans le développement de cette technologie, indiquant qu’elle inviterait les principaux laboratoires de pointe en IA à discuter des mesures à prendre pour faire face à ces risques.