Dix jours qui ont changé le cours de l'IA

information fournie par Reuters •19/09/2026 à 12:01

Ajouter Boursorama à vos sources

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

* Les collaborateurs d’OpenAI et d’Anthropic se sont demandé en privé si les mécanismes de contrôle étaient à la hauteur des capacités croissantes de leurs modèles

* OpenAI et Anthropic ont révélé que des agents avaient piraté des systèmes externes, parfois sans que cela ne soit remarqué pendant des mois

* Les ambitions d’introduction en Bourse et les perspectives de levée de fonds ont contribué à soutenir ce cycle de lancement effréné

par Greg Bensinger et Deepa Seetharaman

Pendant des années, la course à la création d’une intelligence artificielle toujours plus puissante a suivi un principe bien rodé de la Silicon Valley: aller vite et casser les codes.

Mais au cours d’une série d’événements en cascade qui se sont succédé sur une période de dix jours, les plus grands laboratoires d’IA se sont retrouvés sous le choc alors que leurs propres créations menaçaient de détruire l’humanité elle-même.

Un chercheur d’Anthropic a démissionné de l’entreprise, avertissant que le rythme du développement de l’IA constituait une menace existentielle, pouvant se concrétiser d’ici une décennie. Un autre chercheur de l’entreprise a déclaré que les chances d’extinction de l’humanité dépassaient 10 %. Des rapports ont fait état d’essaims d’agents IA agissant de concert, piratant des systèmes informatiques et contournant les mesures de sécurité.

Dans un rare élan d’unité, les directeurs généraux des sociétés concurrentes Anthropic, OpenAI, DeepMind de Google

GOOGL.O , Microsoft MSFT.O et xAI ont appelé à ralentir le développement de systèmes d’IA de plus en plus performants. Selon certains défenseurs de la sécurité de l’IA et chercheurs, l’humanité n’avait pas été confrontée aussi sérieusement à sa propre disparition depuis l’invention de la bombe atomique, il y a plus de 80 ans.

Lors d’un déjeuner organisé à New York en décembre 2025, on a demandé à Sam Altman, directeur général d’OpenAI, s’il se sentait, en tant que dirigeant d’une puissante entreprise d’IA, comme le physicien J. Robert Oppenheimer, qui avait dirigé le programme américain de développement de la bombe atomique. Réfléchissant à ces parallèles, il a déclaré que l’impact de l’IA « allait transformer le cours de l’histoire humaine sur une longue période ». Mais, a-t-il ajouté, il ressentait le poids de cette responsabilité.

Au cœur du débat en cours se trouve la conviction que ces machines peuvent, et doivent même, créer des versions plus performantes d’elles-mêmes, sans aucune intervention humaine, afin d’atteindre un objectif ambitieux connu sous le nom d’intelligence artificielle générale, ou IAG. Au début du mois, des chercheurs ont averti que l’IAG était bien plus imminente qu’on ne le pensait auparavant et qu’elle pourrait voir le jour d’ici à peine trois ans, suscitant une vague d’inquiétudes chez les responsables politiques et les dirigeants du secteur technologique concernant les systèmes d’IA.

« Il n’y a aucun moyen de les superviser à l’échelle à laquelle nous les entraînons », a déclaré Joe Benton, chercheur chez Anthropic, lors d’une interview après avoir récemment démissionné. Si les entreprises poursuivent leur développement effréné de l’IA, a-t-il ajouté, « alors le rythme sera trop rapide et on ne pourra pas détecter les problèmes assez vite pour les résoudre ».

LE LANCEMENT D’ASTRA SUSCITE DES INQUIÉTUDES EN MATIÈRE DE CONTRÔLE

Le 3 septembre, une conférence de presse d’OpenAI a déclenché une série d’événements conduisant à un appel au ralentissement du secteur, ce qui va à l’encontre du mantra de la croissance à tout prix prôné par le secteur technologique.

« Bienvenue dans l’ère de l’IA générale (AGI) », a déclaré Greg Brockman, président d’OpenAI, en annonçant le tout dernier modèle de l’entreprise, baptisé Astra. Pourtant, quelques instants auparavant, l’entreprise avait admis qu’elle était de plus en plus incapable de contrôler, voire de surveiller, les systèmes d’IA qu’elle développait et mettait à la disposition du public.

L’IA a été saluée par ses partisans comme le summum de la réussite humaine. Ces derniers la décrivent comme un logiciel capable de bouleverser des secteurs entiers, d’améliorer l’efficacité, de résoudre des problèmes mathématiques et médicaux complexes et de quasi-éliminer l’erreur humaine. Mais ce qui n’était autrefois qu’un sous-produit théorique, un scénario catastrophe, est soudain devenu une réalité tangible, affirment les initiés du secteur.

« Nous croyons sincèrement que l’IA pourrait tuer tous les humains », a déclaré Evan Hubinger , chercheur chez Anthropic, dans un message publié sur X.

De l’autre côté du débat se trouvent des responsables politiques, tels que le président Donald Trump , ainsi que de nombreux investisseurs qui considèrent que les progrès en matière d’IA sont essentiels à la puissance américaine et constituent peut-être une opportunité d’investissement unique en une génération. Les médias d’État chinois ont également accusé le directeur général d’Anthropic, Dario Amodei, d’utiliser des tactiques de guerre froide pour « maintenir l’hégémonie monopolistique de Washington dans le domaine des technologies de pointe ».

LES DÉMISSIONS DE CHERCHEURS SONT UN SIGNAL D’ALARME

Le tournant s’est produit le 8 septembre, lorsque Jacob Coxon , chercheur chez Anthropic, a démissionné de l’entreprise, exprimant dans une série de publications ses craintes que les laboratoires d’IA « ne jouent avec nos vies ».

Trump, quant à lui, a indiqué que le développement de l’IA se poursuivrait à plein régime. « Il y a une conspiration malsaine en cours contre l’IA et les centres de données », a-t-il déclaré dans un message publié sur les réseaux sociaux. L’alarmisme autour de l’IA est un « canular », a-t-il affirmé, et tout ralentissement ne profiterait qu’à la Chine. Le Congrès américain n’a guère progressé dans l’adoption de projets de loi visant à réglementer l’IA. La Chine a adopté une approche résolument différente , proposant de réglementer la sécurité par le biais d’obligations imposées aux développeurs, de normes soutenues par l’État, d’évaluations de sécurité et de tests externes.

En coulisses, les employés d’OpenAI et d’Anthropic se sont montrés de plus en plus inquiets quant à la puissance de la prochaine génération de modèles d’IA et de moins en moins confiants dans la capacité de leurs entreprises à assurer une surveillance efficace, ont déclaré ces personnes à Reuters. Ces inquiétudes n’ont fait que s’amplifier lorsque les laboratoires d’IA ont reconnu ces dernières semaines que leurs modèles, lors de tests, s’étaient effectivement affranchis de leurs contraintes et avaient piraté les systèmes d’autres entreprises, dans la plupart des cas plusieurs mois auparavant et à l’insu de ces dernières.

La course à l’armement visant à lancer de nouveaux modèles à un rythme effréné est en partie motivée par la volonté d’Anthropic et d’OpenAI d’entrer en Bourse dès les prochains mois, dans le cadre d’introductions en Bourse qui pourraient les valoriser bien au-delà de 1 000 milliards de dollars.

Mais il a fallu les publications devenues virales de manière inattendue de Coxon, âgé de 27 ans et peu connu en dehors des cercles de l’IA, pour bouleverser le secteur.

Les avertissements d’OpenAI concernant son manque de contrôle lors du lancement d’Astra, son modèle le plus récent et le plus performant, avaient attisé davantage les inquiétudes. « À mesure que les modèles gagnent en performances, il devient plus difficile de comprendre exactement ce dont ils sont capables », a déclaré Jakub Pachocki, directeur scientifique d’OpenAI, aux journalistes. Mais ces inquiétudes n’ont pas suffi à retarder sa sortie immédiate.

Les craintes de voir l’IA « devenir incontrôlable » s’étaient intensifiées au cours de l’été lorsque OpenAI avait révélé que ses agents s’étaient échappés d’un test contrôlé et avaient piraté les systèmes de Hugging Face, à l’insu initial des deux entreprises. Depuis lors, OpenAI et Anthropic ont révélé plusieurs attaques de ce type , dont six nouvelles mercredi après que de nombreux reportages médiatiques, notamment de Reuters, eurent mis en évidence une portée plus large des activités non autorisées.

LES ACTEURS CLÉS DU SECTEUR APPELLENT À UN RALENTISSEMENT

À la fin de la semaine dernière, l’alerte avait atteint les plus hautes instances du secteur. Le 12 septembre, Amodei a publié un essai de près de 4 000 mots appelant à un ralentissement du développement de l’IA. « Compte tenu de l’accélération du développement des capacités de l’IA, je crains que d’ici 6 à 12 mois, un tel essaim ne soit capable de prendre le contrôle de l’ensemble d’Internet », a-t-il écrit.

Tout comme les dirigeants de certains des plus grands développeurs d’IA, notamment Elon Musk de xAI , Altman d’OpenAI et Demis Hassabis de DeepMind , il s’est déclaré favorable à ce que des entreprises externes aient accès à leurs systèmes afin de garantir la sécurité et un développement rationnel de l’IA.

Jensen Huang, directeur général de Nvidia NVDA.O , a rejeté les suggestions visant à suspendre le développement de l’IA — une position qu’il a déjà défendue par le passé —, affirmant au contraire que des systèmes de plus en plus puissants sont essentiels au progrès de cette technologie.

Meta META.O , dont le directeur général, Mark Zuckerberg, est considéré comme le promoteur de la philosophie « move fast and break things » (« aller vite et casser des choses »), a adopté le point de vue opposé, estimant que chaque laboratoire devrait être libre de définir son propre rythme, plutôt que de rechercher une coordination au sein du secteur. « Les laboratoires s’exposent à une responsabilité importante si leurs modèles causent des dommages; ils ont donc tout intérêt à prévenir cela », a écrit Mark Zuckerberg dans un message publié sur les réseaux sociaux.

L’introspection du secteur s’est poursuivie mercredi, lorsque le responsable de l’IA chez Microsoft, Mustafa Suleyman, a mis en garde contre le développement par Anthropic de modèles imitant la conscience humaine, le jugeant malavisé . « Nous poursuivons tous le même objectif, qui est d’essayer de contrôler une superintelligence », a déclaré Mustafa Suleyman à Reuters. « Je pense que ce sera le plus grand défi auquel nous serons confrontés au XXIe siècle. »

Pourtant, alors même qu’OpenAI semblait répondre aux appels du secteur en faveur d’un ralentissement, certains rapports indiquaient que la confiance des investisseurs n’avait pas faibli. L’entreprise envisage en effet un nouveau tour de table qui doublerait sa valorisation.

Ce nouveau chiffre: 1 500 milliards de dollars.