Les États-Unis exigent de nouvelles garanties pour l'utilisation de l'IA par le gouvernement et la transparence

information fournie par Reuters •28/03/2024 à 10:00

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par David Shepardson

La Maison Blanche a annoncé jeudi qu'elle demandait aux agences fédérales utilisant l'intelligence artificielle d'adopter des "garanties concrètes" d'ici le 1er décembre afin de protéger les droits des Américains et d'assurer la sécurité alors que le gouvernement étend l'utilisation de l'IA à un large éventail d'applications.

Le Bureau de la gestion et du budget a publié une directive à l'intention des agences fédérales afin qu'elles surveillent, évaluent et testent l'impact de l'IA "sur le public, atténuent les risques de discrimination algorithmique et fournissent au public une transparence sur la manière dont le gouvernement utilise l'IA" Les agences doivent également procéder à des évaluations des risques et définir des paramètres opérationnels et de gouvernance.

La Maison Blanche a déclaré que les agences "seront tenues de mettre en œuvre des mesures de protection concrètes lorsqu'elles utilisent l'IA d'une manière susceptible d'avoir un impact sur les droits ou la sécurité des Américains", y compris des divulgations publiques détaillées afin que le public sache comment et quand l'intelligence artificielle est utilisée par le gouvernement.

Le président Joe Biden a signé un décret en octobre invoquant la loi sur la production de défense pour exiger que les développeurs de systèmes d'intelligence artificielle présentant des risques pour la sécurité nationale, l'économie, la santé publique ou la sécurité des États-Unis partagent les résultats des tests de sécurité avec le gouvernement américain avant de les rendre publics.

La Maison Blanche a déclaré jeudi que de nouvelles garanties permettront aux voyageurs aériens de se soustraire sans délai à l'utilisation de la reconnaissance faciale par l'administration de la sécurité des transports lors des contrôles. Lorsque l'IA est utilisée dans le cadre des soins de santé fédéraux pour étayer des décisions de diagnostic, un être humain doit superviser "le processus de vérification des résultats des outils"

L'IA générative - qui peut créer du texte, des photos et des vidéos en réponse à des questions ouvertes - a suscité de l'enthousiasme, mais aussi des craintes qu'elle n'entraîne des pertes d'emplois, qu'elle ne perturbe les élections et qu'elle ne prenne le dessus sur l'homme, ce qui pourrait avoir des effets catastrophiques.

La Maison Blanche demande aux agences gouvernementales de publier des inventaires des cas d'utilisation de l'IA, d'établir des rapports sur l'utilisation de l'IA et de publier le code, les modèles et les données de l'IA appartenant au gouvernement s'ils ne présentent pas de risques.

L'administration Biden a cité les utilisations fédérales actuelles de l'IA, notamment l'Agence fédérale de gestion des urgences qui utilise l'IA pour évaluer les dommages structurels causés par les ouragans, tandis que les Centres de contrôle et de prévention des maladies utilisent l'IA pour prédire la propagation des maladies et détecter la consommation d'opioïdes. L'administration fédérale de l'aviation utilise l'IA pour aider à "déconflictualiser le trafic aérien dans les grandes zones métropolitaines afin d'améliorer les temps de trajet"

La Maison Blanche prévoit d'engager 100 professionnels de l'IA pour promouvoir l'utilisation sûre de l'IA et demande aux agences fédérales de désigner des responsables de l'IA dans les 60 jours.

En janvier, l'administration Biden () a proposé d'exiger des entreprises américaines de cloud computing qu'elles déterminent si des entités étrangères accèdent aux centres de données américains pour former des modèles d'IA dans le cadre des règles "know your customer" (connaissez votre client).