Les États-Unis proposent d'exiger des rapports pour l'IA avancée et les fournisseurs de cloud

information fournie par Reuters •09/09/2024 à 14:45

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par David Shepardson

Le ministère américain du commerce a annoncé lundi qu'il proposait d'imposer aux développeurs d'intelligence artificielle avancée et aux fournisseurs d'informatique en nuage des obligations de déclaration détaillées afin de garantir la sécurité des technologies et leur capacité à résister aux cyberattaques.

La proposition du Bureau de l'industrie et de la sécurité du ministère prévoit l'obligation de rendre compte au gouvernement fédéral des activités de développement de modèles d'intelligence artificielle et de clusters informatiques "pionniers".

Elle exigerait également des rapports sur les mesures de cybersécurité ainsi que sur les résultats des efforts de "red-teaming", tels que les tests de capacités dangereuses, notamment la capacité de participer à des cyberattaques, ou l'abaissement des barrières à l'entrée pour les non-experts qui souhaitent développer des armes chimiques, biologiques, radiologiques ou nucléaires.

L'équipe rouge externe est utilisée depuis des années dans le domaine de la cybersécurité pour identifier de nouveaux risques, , le terme faisant référence aux simulations de la guerre froide américaine où l'ennemi était appelé "l'équipe rouge"

L'IA générative - qui peut créer du texte, des photos et des vidéos en réponse à des questions ouvertes - a suscité l'enthousiasme, mais aussi la crainte qu'elle ne rende certains emplois obsolètes, qu'elle ne bouleverse les élections et qu'elle ne prenne le dessus sur l'homme, ce qui pourrait avoir des effets catastrophiques.

Le ministère du commerce a déclaré que les informations recueillies dans le cadre de la proposition "seront essentielles pour garantir que ces technologies répondent à des normes strictes en matière de sécurité et de fiabilité, qu'elles peuvent résister à des cyberattaques et qu'elles présentent un risque limité d'utilisation abusive par des adversaires étrangers ou des acteurs non étatiques"

Le président Joe Biden a signé en octobre 2023 un décret exigeant que les développeurs de systèmes d'IA qui présentent des risques pour la sécurité nationale, l'économie, la santé publique ou la sécurité des États-Unis partagent les résultats des tests de sécurité avec le gouvernement américain avant qu'ils ne soient rendus publics.

La règle établirait des exigences en matière de rapports pour les modèles d'intelligence artificielle avancée (AI) et les grappes de calcul.

Cette initiative réglementaire intervient alors que l'action législative du Congrès sur l'IA est au point mort.

Au début de l'année, la BRI a mené une enquête pilote auprès des développeurs d'IA. L'administration Biden a pris une série de mesures pour empêcher la Chine d'utiliser la technologie américaine pour l'IA, car ce secteur en plein essor soulève des problèmes de sécurité.

Parmi les principaux fournisseurs de cloud, citons AWS d'Amazon.com AMZN.O , Google Cloud d'Alphabet GOOGL.O et Azure de Microsoft MSFT.O .