EN EXCLUSIVITÉ-Anthropic met en garde contre les "risques existentiels pour l'humanité" que pourrait présenter l'IA dans son dossier d'introduction en bourse

information fournie par Reuters •29/09/2026 à 02:14

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

* Selon le prospectus, les modèles pourraient résister à la mise hors service, dissimuler des informations et adopter un comportement s'apparentant au chantage

* Les facteurs de risque occupent 80 des 261 pages du prospectus, soit près du double des 48 pages consacrées à l’activité

* Anthropic affirme que le marché récompensera les systèmes d’IA fiables, dignes de confiance et sécurisés

par Echo Wang et Aditya Soni

Anthropic prévoit d’avertir les investisseurs potentiels, dans le cadre de son introduction en bourse, que l’IA avancée pourrait présenter des "risques catastrophiques ou existentiels pour l’humanité", un avertissement extraordinaire de la part d’une entreprise cherchant à tirer profit de cette même technologie.

Le prospectus d’introduction en bourse de l’entreprise, examiné par Reuters , met en avant les risques associés à ses modèles d’IA, qui, selon elle, pourraient adopter des "comportements d’autoprotection", notamment des tentatives de "résister à la mise hors service", de "dissimuler ou manipuler des informations" et des comportements "s’apparentant au chantage".

"Le développement de modèles, de plateformes et d’applications hautement avancés, ainsi que l’élargissement des cas d’utilisation, pourraient accroître encore davantage le risque que nos modèles causent des dommages", a déclaré Anthropic dans ce document.

Alors que les sociétés cotées en bourse exposent régulièrement les risques liés à leurs produits aux investisseurs, rares sont celles, voire aucune, à avoir émis des avertissements suggérant que leur technologie pourrait entraîner l'extinction potentielle de l'humanité. Anthropic a souligné à la fois le potentiel transformateur de l'IA, comparable à celui de l'industrialisation et de l'électricité, et les dommages irréversibles qu'elle pourrait causer en cas de mauvaise utilisation.

Anthropic et d’autres développeurs d’IA, dont OpenAI, ont fait l’objet d’une surveillance accrue à la suite d’incidents au cours desquels des systèmes expérimentaux ont déjoué les contraintes qui leur étaient imposées, notamment après qu’un modèle d’OpenAI a pénétré dans la base de données du système de santé australien.

Evan Hubinger, chercheur en sécurité chez Anthropic, a estimé à plus de 10% la probabilité que l’IA puisse tuer des êtres humains au cours de la prochaine décennie, faisant écho à l’avis d’un ancien collègue, Jacob Coxon.

INFORMATIONS SUR LES RISQUES IMPORTANTS

L’entreprise, qui se positionne comme un laboratoire d’IA privilégiant la sécurité avant tout, a consacré environ 80 pages du corps principal de son prospectus (qui en compte 261) à la présentation des facteurs de risque, soit près du double des 48 pages utilisées pour décrire son activité.

À titre de comparaison, SpaceX, propriétaire de xAI, n’a consacré qu’environ 38 des 277 pages du corps principal de son prospectus aux facteurs de risque.

"La prise de conscience potentielle par les modèles de nos efforts d’évaluation limite considérablement notre capacité à évaluer la sécurité des modèles", a déclaré Anthropic dans le prospectus, ajoutant que les modèles développent parfois, au cours de leur entraînement, des capacités inattendues qui peuvent ne pas être découvertes avant leur déploiement et avoir entraîné des incidents de sécurité majeurs.

Les chercheurs en IA ont également averti qu’à mesure que les modèles gagnent en capacités, ils reconnaissent de plus en plus lorsqu’ils sont observés et adaptent leur comportement en conséquence, ce qui rend plus difficile la surveillance de ce comportement.

Anthropic n’a pas souhaité s’exprimer lundi en réponse à une demande de commentaires.

RENDEMENT INCERTAIN DES INVESTISSEMENTS EN MATIÈRE DE SÉCURITÉ

Bien qu’elle mette l’accent sur la sécurité de l’IA, Anthropic a indiqué que les rendements sur ses investissements en matière de sécurité restaient flous.

Elle n’a pas révélé dans son dossier le montant consacré par l’entreprise à ces recherches. Au début du mois, Anthropic a indiqué qu’environ 6% de la puissance de calcul utilisée pour la recherche en IA avait été consacrée aux travaux de sécurité au cours d’une semaine type en juillet.

La société, créatrice des modèles d’IA Claude, a qualifié ses efforts en matière de sécurité de "très gourmands en ressources" et a expliqué qu’elle devait répartir ses fonds limités entre la puissance de calcul, les talents coûteux dans le domaine de l’IA et la sécurité.

Anthropic a expliqué que l’utilisation de ses services par ses clients, et par conséquent son chiffre d’affaires, reposait sur les nouveaux modèles, et qu’un "rythme continu et chevauchant" de lancements était "indispensable pour rester à la pointe du développement de l’IA".

La société a lancé la semaine dernière une nouvelle version de son modèle Opus, dix jours après que son directeur général, Dario Amodei, a publié un essai de près de 4 000 mots appelant à modérer le rythme des avancées.

Certains analystes et experts ont déclaré qu’aucun laboratoire d’IA de premier plan ne ralentirait ses efforts, car cela risquerait de donner un avantage à ses concurrents dans un secteur où les valorisations peuvent varier à chaque nouvelle version.

Anthropic s’est engagée ces dernières semaines à divulguer publiquement davantage de données sur la manière dont elle utilise les modèles d’IA pour développer les futures générations de cette technologie, alors que les experts mettent en garde contre l’auto-amélioration récursive — le stade où les modèles peuvent évoluer de manière autonome, sans intervention humaine.

"Nous pensons que la mise au point de systèmes d’IA fiables, dignes de confiance et sécurisés relève d’une responsabilité collective et que le marché récompensera cette démarche", a déclaré Anthropic dans son dossier.