EN EXCLUSIVITÉ-Anthropic met en garde contre les “risques existentiels pour l'humanité” que pourrait présenter l'IA dans son dossier d'introduction en bourse

information fournie par Reuters •29/09/2026 à 12:02

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

(Reprise d'un article publié lundi)

* Le prospectus indique que les modèles pourraient résister à une mise hors service, dissimuler des informations et adopter un comportement s'apparentant au chantage

* Les facteurs de risque occupent 80 des 261 pages du prospectus, soit près du double des 48 pages consacrées à l’activité

* Anthropic affirme que le marché récompensera les systèmes d’IA fiables, dignes de confiance et sécurisés

par Echo Wang et Aditya Soni

Anthropic prévoit d’avertir les investisseurs potentiels, dans le cadre de son introduction en bourse, que l’IA avancée pourrait présenter des “risques catastrophiques ou existentiels pour l’humanité”, un avertissement extraordinaire de la part d’une entreprise cherchant à tirer profit de cette même technologie.

Le prospectus de l’introduction en bourse de la société, examiné par Reuters , met en avant les risques associés à ses modèles d’IA, qui, selon elle, pourraient adopter des “comportements d’autoprotection”, notamment des tentatives de “résister à la mise hors service”, de “dissimuler ou manipuler des informations” et des comportements “s’apparentant au chantage”.

“Le développement de modèles, de plateformes et d’applications hautement avancés, ainsi que l’élargissement des cas d’utilisation, pourraient accroître encore davantage le risque que nos modèles causent des dommages”, a déclaré Anthropic dans son dossier.

Alors que les sociétés cotées en bourse présentent régulièrement les risques liés à leurs produits aux investisseurs, rares sont celles, voire aucune, à avoir émis des avertissements suggérant que leur technologie pourrait entraîner l’extinction potentielle de l’humanité. Anthropic a souligné à la fois le potentiel transformateur de l’IA, comparable à celui de l’industrialisation et de l’électricité, et les dommages irréversibles qu’elle pourrait causer en cas de mauvaise utilisation.

Anthropic et d’autres développeurs d’IA, dont OpenAI, ont fait l’objet d’une surveillance accrue à la suite d’incidents au cours desquels des systèmes expérimentaux ont contourné les contraintes qui leur étaient imposées, notamment après qu’un modèle d’OpenAI a, selon un rapport, accédé sans autorisation à la base de données du système de santé australien.

Evan Hubinger, chercheur en sécurité chez Anthropic, a estimé à plus de 10% la probabilité que l’IA puisse tuer des êtres humains au cours de la prochaine décennie, faisant écho à l’avis d’un ancien collègue, Jacob Coxon.

INFORMATIONS SUR LES RISQUES IMPORTANTS

L’entreprise, qui se positionne comme un laboratoire d’IA privilégiant la sécurité avant tout, a consacré environ 80 pages du corps principal de son prospectus (qui en compte 261) à la présentation des facteurs de risque, soit près du double des 48 pages utilisées pour décrire son activité.

À titre de comparaison, SpaceX, propriétaire de xAI, n’a consacré qu’environ 38 pages du corps principal de son prospectus, qui en compte 277, aux facteurs de risque.

“La prise de conscience potentielle par les modèles de nos efforts d’évaluation constitue une limitation significative de notre capacité à évaluer la sécurité des modèles”, a déclaré Anthropic dans son prospectus, ajoutant que les modèles développent parfois, au cours de leur entraînement, des capacités inattendues qui peuvent ne pas être découvertes avant leur déploiement et avoir entraîné des incidents de sécurité majeurs.

Les chercheurs en IA ont également averti qu’à mesure que les modèles gagnent en capacités, ils reconnaissent de plus en plus lorsqu’ils sont observés et adaptent leur comportement en conséquence, ce qui rend plus difficile la surveillance de ce comportement.

Anthropic n’a pas souhaité s’exprimer en réponse à une demande de commentaires formulée lundi.

RENDEMENTS INCERTAINS DES INVESTISSEMENTS EN MATIÈRE DE SÉCURITÉ

Bien qu’elle mette l’accent sur la sécurité de l’IA, Anthropic a indiqué que les rendements sur ses investissements en matière de sécurité restaient incertains.

Elle n’a pas précisé dans son dossier le montant consacré par l’entreprise à ces recherches. Au début du mois, Anthropic a indiqué qu’environ 6% de la puissance de calcul utilisée pour la recherche en IA avait été consacrée aux travaux de sécurité au cours d’une semaine type en juillet.

La société, créatrice des modèles d’IA “Claude”, a qualifié ses efforts en matière de sécurité de “très gourmands en ressources” et a indiqué qu’elle devait répartir ses fonds limités entre la puissance de calcul, les talents coûteux dans le domaine de l’IA et la sécurité.

Anthropic a déclaré que l’utilisation de ses services par les clients, et par conséquent son chiffre d’affaires, repose sur les nouveaux modèles et qu’un “rythme continu et chevauchant” de lancements est “indispensable pour rester à la pointe du développement de l’IA”.

La société a lancé la semaine dernière une nouvelle version de son modèle Opus, dix jours après que son directeur général, Dario Amodei, eut publié un essai de près de 4 000 mots appelant à modérer le rythme des avancées.

Certains analystes et experts ont déclaré qu’aucun laboratoire d’IA de premier plan ne ralentirait ses efforts, car cela risquerait de donner un avantage à ses concurrents dans un secteur où les valorisations peuvent changer à chaque nouvelle version.

Anthropic s’est engagée ces dernières semaines à divulguer davantage de données publiques sur la manière dont elle utilise les modèles d’IA pour développer les futures générations de cette technologie, alors que les experts mettent en garde contre l’auto-amélioration récursive — le stade où les modèles peuvent évoluer de manière autonome, sans intervention humaine.

“Nous pensons que la mise au point de systèmes d’IA fiables, dignes de confiance et sécurisés relève d’une responsabilité collective et que le marché récompensera cette démarche”, a déclaré Anthropic dans son dossier.