Les entreprises de la tech veulent que l'IA soit réglementée… mais s'opposent à un projet de loi californien sur l'IA

information fournie par Reuters •21/08/2024 à 12:00

Les législateurs californiens sont prêts à voter sur un projet de loi dès cette semaine qui réglementerait largement la façon dont l'intelligence artificielle est développée et déployée en Californie, même si un certain nombre de géants de la technologie ont exprimé une large opposition.

Voici quelques informations sur ce projet de loi, connu sous le nom de SB 1047, et sur les raisons pour lesquelles il a suscité des réactions négatives de la part des technologues de la Silicon Valley et de certains législateurs:

Quel est l'objet de ce projet de loi ?

Présentée par le sénateur démocrate Scott Wiener, cette proposition rendrait obligatoire la réalisation de tests de sécurité pour un grand nombre des modèles d'IA les plus avancés, dont le coût de développement est supérieur à 100 millions de dollars ou qui nécessitent une puissance de calcul définie. Les développeurs de logiciels d'IA opérant dans l'État devraient également présenter des méthodes permettant de désactiver les modèles d'IA en cas de défaillance, ce qui constituerait un véritable interrupteur d'arrêt.

Le projet de loi donnerait également au procureur général de l'État le pouvoir d'intenter des poursuites si les développeurs ne se conforment pas à la loi, en particulier en cas de menace permanente , par exemple si l'IA prend le contrôle de systèmes gouvernementaux tels que le réseau électrique.

En outre, le projet de loi exigerait des développeurs qu'ils engagent des auditeurs tiers pour évaluer leurs pratiques en matière de sécurité et offrirait des protections supplémentaires aux dénonciateurs qui dénoncent les abus de l'IA.

Qu'ont dit les législateurs ?

Le projet de loi SB 1047 a déjà été adopté par le Sénat de l'État par 32 voix contre 1. La semaine dernière, il a été adopté par la commission des crédits de l'Assemblée nationale, en vue d'un vote par l'ensemble de l'Assemblée. S'il est adopté avant la fin de la session législative, le 31 août, il sera transmis au gouverneur Gavin Newsom, qui devra le signer ou y opposer son veto avant le 30 septembre.

M. Wiener, qui représente la ville de San Francisco, où se trouvent l'OpenAI et de nombreuses start-ups qui développent ce puissant logiciel, a déclaré qu'il était nécessaire de légiférer pour protéger le public avant que les progrès de l'IA ne deviennent difficiles à gérer ou incontrôlables.

Toutefois, un groupe de démocrates du Congrès californien s'oppose au projet de loi, notamment Nancy Pelosi (San Francisco), Ro Khanna (dont la circonscription englobe une grande partie de la Silicon Valley) et Zoe Lofgren (San Jose).

Cette semaine, Mme Pelosi a qualifié le projet de loi SB 1047 de mal informé et a déclaré qu'il pourrait faire plus de mal que de bien. Dans une lettre ouverte publiée la semaine dernière, les démocrates ont déclaré que le projet de loi pourrait inciter les développeurs à quitter l'État et menacer les modèles d'IA dits "open-source" , qui s'appuient sur un code librement accessible à quiconque souhaite l'utiliser ou le modifier.

Que disent les leaders de la technologie ?

Les entreprises technologiques qui développent l'IA - capable de répondre à des messages sous forme de texte, d'image ou de son et d'exécuter des tâches répétitives avec un minimum d'intervention - ont réclamé des garde-fous plus solides pour le déploiement de l'IA . Ils ont notamment évoqué le risque que le logiciel échappe un jour à l'intervention humaine et provoque des cyberattaques. Mais ils ont aussi largement rejeté le projet de loi SB 1047.

M. Wiener a révisé le projet de loi pour apaiser les entreprises technologiques, en s'appuyant en partie sur la contribution de la startup d'IA Anthropic, soutenue par Amazon AMZN.O et Alphabet GOOGL.O . Il a notamment supprimé la création d'un comité gouvernemental de surveillance de l'IA.

M. Wiener a également supprimé les sanctions pénales en cas de parjure, bien que des poursuites civiles puissent toujours être engagées.

Google (Alphabet) et Meta META.O ont exprimé leurs inquiétudes dans des lettres adressées à M. Wiener. Meta a déclaré que le projet de loi menaçait de rendre l'État défavorable au développement et au déploiement de l'IA. Le scientifique en chef de la société mère Facebook, Yann LeCun, a déclaré dans un billet X de juillet que le projet de loi pourrait nuire aux efforts de recherche.

OpenAI, dont le ChatGPT a accéléré la frénésie autour de l'IA depuis sa sortie fin 2022, a déclaré que l'IA devrait être réglementée par le gouvernement fédéral et que le SB 1047 créait un environnement juridique incertain.

La possibilité que le projet de loi s'applique aux modèles d'IA à code source ouvert est particulièrement préoccupante. De nombreux technologues estiment que les modèles open-source sont importants pour créer plus rapidement des applications d'IA moins risquées, mais Meta et d'autres ont craint d'être tenus responsables de la surveillance des modèles open-source si le projet de loi est adopté. M. Wiener a déclaré qu'il soutenait les modèles à source ouverte et l'un des récents amendements au projet de loi a relevé le niveau des modèles à source ouverte couverts par ses dispositions.

Le projet de loi a également des partisans dans le secteur technologique. Geoffrey Hinton, largement considéré comme le "parrain de l'IA", Daniel Kokotajlo, ancien employé d'OpenAI, et le chercheur Yoshua Bengio ont déclaré qu'ils soutenaient le projet de loi.

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Greg Bensinger