De plus en plus de législateurs américains réclament de nouvelles règles en matière d'IA

information fournie par Reuters •11/09/2026 à 06:54

Ajouter Boursorama à vos sources

Intelligence artificielle (Crédits: Adobe Stock)

De plus en plus de législateurs américains réclament de nouvelles règles pour encadrer les systèmes d'IA, après les avertissements alarmants de deux chercheurs d'Anthropic selon lesquels les progrès rapides de l'intelligence artificielle pourraient conduire à l'extinction de l'espèce humaine dans un avenir pas si lointain.

L'inquiétude concernant les dangers potentiels de l'IA s'est amplifiée cette semaine lorsque Jacob Coxon, chercheur chez Anthropic, a déclaré qu'il avait démissionné et que "les personnes qui développent l'IA croient sincèrement qu'elle pourrait tous nous tuer d'ici la fin de la décennie".

Evan Hubinger, scientifique chez Anthropic, s'est fait l'écho de ces propos, affirmant que Jacob Coxon avait raison.

"Nous croyons sincèrement que l'IA pourrait tuer tous les humains", a écrit M. Hubinger sur X. "Je pense personnellement que la probabilité est de >10 % au cours de la prochaine décennie."

Ces avertissements font suite à des cas d'agents d'IA devenus incontrôlables et ayant piraté des systèmes externes, ainsi qu'à la démission de chercheurs en sécurité de l'IA, inquiets des risques liés à cette technologie. Les responsables politiques, tant démocrates que républicains, ont réagi en faisant part de leur inquiétude et en appelant à davantage de mesures.

"Washington doit se réveiller et prendre cela au sérieux", a déclaré le sénateur démocrate de l'Arizona Mark Kelly sur X, faisant référence aux risques liés à la technologie de l'IA.

Le sénateur du Texas Ted Cruz, dans l'émission télévisée "The View", a évoqué une législation visant à réglementer les "risques catastrophiques" de l'IA. M. Cruz préside une commission sénatoriale chargée de superviser le ministère américain du Commerce, l'agence qui emploie en interne des chercheurs spécialisés dans la sécurité de l'IA.

La députée Anna Paulina Luna, républicaine de Floride, a appelé dans un message publié sur X le président de la Chambre des représentants, Mike Johnson, à convoquer une "session extraordinaire sur l'IA". La Chambre est en vacances cette semaine et devrait reprendre ses travaux la semaine prochaine.

Mais le président américain Donald Trump a déclaré jeudi qu'il ne craignait pas que l'IA conduise à l'extinction de l'humanité.

"Je crains que si nous ne parvenons pas à maîtriser l'IA, nous nous retrouvions dans une situation très délicate. Pour l'instant, nous devançons largement la Chine", a-t-il déclaré lors d'une brève intervention devant les médias à l'aéroport international de Dallas-Fort Worth.

Ce mois-ci, les États-Unis ont exhorté les membres du G20 à adopter une approche non interventionniste en matière de réglementation de l'IA.

Un porte-parole d'Anthropic, qui se prépare à entrer en bourse avec une valorisation potentielle estimée par certains investisseurs à 2.000 milliards de dollars, a déclaré jeudi que l'entreprise continuerait à tester de manière intensive "des modèles ou des capacités dangereuses dans des domaines tels que la cybersécurité et la biologie".

L'entreprise souhaite collaborer avec le secteur de l'IA sur le rythme de mise sur le marché des nouveaux outils d'IA, a ajouté le porte-parole.

D'AUTRES CHERCHEURS EN IA ONT DÉMISSIONNÉ

Le directeur général d'OpenAI, Sam Altman, a déclaré à ses employés lors d'une réunion interne cette semaine que l'entreprise était disposée à ralentir le développement de ses systèmes d'IA, a rapporté Bloomberg News .

Le concurrent d'Anthropic, qui se prépare également à une introduction en bourse, n'a pas commenté la réunion de Sam Altman avec son personnel. L'entreprise avait déjà indiqué qu'elle ralentissait certains aspects du développement de ses modèles.

En début de semaine, OpenAI a déclaré qu'elle militait en faveur de l'instauration d'exigences nationales obligatoires en matière de sécurité de l'IA aux États-Unis.

Deux spécialistes de la sécurité de l'IA ont également fait part de leurs inquiétudes concernant le développement rapide du secteur.

Josh Engels, qui travaillait auparavant sur la recherche en matière de sécurité de l'IA chez Google DeepMind, a déclaré dans une interview accordée à NBC et publiée jeudi: "Il n'y a pas d'adultes dans la pièce. Les gens font de leur mieux, mais personne ne vient à notre secours."

Joe Benton, qui dirigeait auparavant une équipe de recherche sur la sécurité chez Anthropic, a confié à NBC qu'il craignait que l'IA ne finisse par progresser "trop vite pour que nous puissions nous organiser à temps, à moins que nous ne nous en préoccupions dès maintenant".

Tous deux ont rejoint METR, un organisme de recherche à but non lucratif qui évalue si et quand les systèmes d'IA pourraient représenter une menace pour la société.

AUDITEURS INDÉPENDANTS

Les inquiétudes concernant l'IA ont mis la pression sur le leader de la majorité au Sénat, John Thune, et la sénatrice démocrate Amy Klobuchar, qui rédigent actuellement un projet de loi visant à réglementer les produits d'IA. Mme Klobuchar a déclaré que cette législation devrait obliger les entreprises développant des outils d'IA à "collaborer avec des experts gouvernementaux pour vérifier et tester les modèles afin de s'assurer que l'IA est sûre". M. Thune a déclaré à Reuters en juillet que le projet de loi traiterait des "risques catastrophiques" posés par les systèmes d'IA.

Mercredi, la Californie a promulgué la première loi d'État fixant des règles sur la manière dont les auditeurs indépendants évaluent les produits d'IA. Chris Lehane, dirigeant d'OpenAI, a déclaré qu'OpenAI soutiendrait ce projet de loi, alors que le bureau du gouverneur de Californie, Gavin Newsom, publiait un communiqué annonçant qu'il l'avait promulgué.

En juillet, un groupe bipartite composé de six membres de la Chambre des représentants des États-Unis a proposé une loi qui obligerait les développeurs des modèles d'IA les plus puissants à les soumettre à des audits de sécurité indépendants. Les auditeurs seraient accrédités par le ministère américain du Commerce, et ce dernier créerait un nouveau poste chargé de superviser la sécurité de l'IA, selon les termes du projet de loi.

"Il est important de disposer d'un cadre de supervision de ces systèmes, comprenant notamment un examen préalable au déploiement adapté et des audits indépendants menés par des tiers", a déclaré Alicia Solow-Niederman, professeure de droit des technologies à l'université George Washington.

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

par Courtney Rozen