Les États-Unis déclarent que les principales entreprises d'IA rejoignent un consortium sur la sécurité pour faire face aux risques

information fournie par Reuters •08/02/2024 à 11:00

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par David Shepardson

L'administration Biden a déclaré jeudi que des entreprises d'intelligence artificielle de premier plan figuraient parmi plus de 200 entités rejoignant un nouveau consortium américain visant à soutenir le développement et le déploiement sûrs de l'IA générative.

La secrétaire d'État au commerce, Gina Raimondo, a annoncé la création de l'U.S. AI Safety Institute Consortium (AISIC), qui comprend OpenAI, Alphabet's Google GOOGL.O , Anthropic et Microsoft MSFT.O , ainsi que Meta Platforms META.O , société mère de Facebook, Apple AAPL.O , Amazon.com AMZN.O , Nvidia

NVDA.O , Palantir PLTR.N , Intel, JPMorgan Chase JPM.N et Bank of America BAC.N .

"Le gouvernement américain a un rôle important à jouer dans l'établissement des normes et le développement des outils dont nous avons besoin pour atténuer les risques et exploiter l'immense potentiel de l'intelligence artificielle", a déclaré M. Raimondo dans un communiqué.

Le consortium, qui comprend également BP BP.L , Cisco Systems

CSCO.O , IBM IBM.N , Hewlett Packard HPE.N , Northop Grumman

NOC.N , Mastercard MA.N , Qualcomm QCOM.O , Visa V.N et d'importantes institutions universitaires et agences gouvernementales, sera hébergé par l'Institut américain de sécurité de l'IA (USAISI).

Le groupe est chargé de travailler sur les actions prioritaires décrites dans le décret sur l'IA pris par le président Biden en octobre "y compris l'élaboration de lignes directrices pour le red-teaming, l'évaluation des capacités, la gestion des risques, la sûreté et la sécurité, et le filigrane des contenus synthétiques"

L'année dernière, les grandes entreprises d'IA se sont engagées à filigraner le contenu généré par l'IA afin de rendre la technologie plus sûre. L'expression "red-teaming" est utilisée depuis des années dans le domaine de la cybersécurité pour identifier de nouveaux risques, en référence aux simulations américaines de la guerre froide où l'ennemi était appelé "l'équipe rouge"

Le décret de M. Biden demande aux agences de fixer des normes pour ces tests et de se pencher sur les risques chimiques, biologiques, radiologiques, nucléaires et de cybersécurité qui y sont liés.

En décembre, le ministère du commerce a déclaré qu'il faisait le premier pas vers la rédaction de normes et d'orientations clés pour le déploiement et l'essai de l'IA en toute sécurité.

Le consortium représente la plus grande collection d'équipes de test et d'évaluation et se concentrera sur la création des fondements d'une "nouvelle science de la mesure de la sécurité de l'IA", a déclaré le ministère du commerce.

L'IA générative - qui peut créer du texte, des photos et des vidéos en réponse à des questions ouvertes - a suscité l'enthousiasme mais aussi la crainte qu'elle ne rende certains emplois obsolètes, qu'elle ne bouleverse les élections et qu'elle ne prenne le dessus sur l'homme, ce qui pourrait avoir des effets catastrophiques.

Alors que l'administration Biden cherche à mettre en place des garde-fous, les efforts du Congrès pour adopter une législation sur l'IA sont au point mort, malgré de nombreux forums de haut niveau et propositions législatives.