Les grandes entreprises technologiques veulent que l'IA soit réglementée. Pourquoi s'opposent-elles à un projet de loi californien sur l'IA ?

information fournie par Reuters •27/08/2024 à 23:47

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto))

(Ajoute les commentaires d'Anthropic et d'Elon Musk aux paragraphes 17-20) par Greg Bensinger

Les législateurs californiens sont prêts à voter sur un projet de loi dès cette semaine qui réglementerait largement la façon dont l'intelligence artificielle est développée et déployée en Californie, même si un certain nombre de géants de la technologie ont exprimé leur opposition.

Voici quelques informations sur ce projet de loi, connu sous le nom de SB 1047, et sur les raisons pour lesquelles il a suscité des réactions négatives de la part des technologues de la Silicon Valley et de certains législateurs:

QUEL EST L'OBJET DE CE PROJET DE LOI?

Présentée par le sénateur démocrate Scott Wiener, cette proposition rendrait obligatoire la réalisation de tests de sécurité pour un grand nombre des modèles d'IA les plus avancés, dont le coût de développement est supérieur à 100 millions de dollars ou qui nécessitent une puissance de calcul définie. Les développeurs de logiciels d'IA opérant dans l'État devraient également présenter des méthodes permettant de désactiver les modèles d'IA en cas de défaillance, ce qui constituerait un véritable interrupteur d'arrêt.

Le projet de loi donnerait également au procureur général de l'État le pouvoir d'intenter des poursuites si les développeurs ne se conforment pas à la loi, en particulier en cas de menace permanente , par exemple si l'IA prend le contrôle de systèmes gouvernementaux tels que le réseau électrique.

En outre, le projet de loi exigerait des développeurs qu'ils engagent des auditeurs tiers pour évaluer leurs pratiques en matière de sécurité et offrirait des protections supplémentaires aux dénonciateurs qui dénoncent les abus de l'IA.

QU'ONT DIT LES LÉGISLATEURS?

Le projet de loi SB 1047 a déjà été adopté par le Sénat de l'État par 32 voix contre 1. Au début du mois, il a été adopté par la commission des crédits de l'Assemblée de l'État, en vue d'un vote par l'Assemblée dans son ensemble. S'il est adopté avant la fin de la session législative, le 31 août, il sera transmis au gouverneur Gavin Newsom, qui devra le signer ou y opposer son veto avant le 30 septembre.

M. Wiener, qui représente la ville de San Francisco, où se trouvent l'OpenAI et de nombreuses start-ups qui développent ce puissant logiciel, a déclaré qu'il était nécessaire de légiférer pour protéger le public avant que les progrès de l'IA ne deviennent difficiles à gérer ou incontrôlables.

Toutefois, un groupe de démocrates du Congrès de Californie s'oppose au projet de loi, notamment Nancy Pelosi, de San Francisco, Ro Khanna, dont la circonscription couvre une grande partie de la Silicon Valley, et Zoe Lofgren, de San Jose.

Mme Pelosi a qualifié le projet de loi SB 1047 de mal informé et a déclaré qu'il pourrait faire plus de mal que de bien. Dans une lettre ouverte publiée la semaine dernière, les démocrates ont déclaré que le projet de loi pourrait inciter les développeurs à quitter l'État et menacer les modèles d'IA dits "open-source" , qui s'appuient sur un code librement accessible à quiconque souhaite l'utiliser ou le modifier.

QUE DISENT LES LEADERS DE LA TECHNOLOGIE?

Les entreprises technologiques qui développent l'IA - capable de répondre à des messages sous forme de texte, d'image ou de son et d'exécuter des tâches répétitives avec un minimum d'intervention - ont réclamé des garde-fous plus solides pour le déploiement de l'IA .

Ils ont notamment évoqué le risque que le logiciel échappe un jour à l'intervention humaine et provoque des cyberattaques. Mais ils ont aussi largement rejeté le projet de loi SB 1047.

M. Wiener a révisé le projet de loi pour apaiser les entreprises technologiques, en s'appuyant en partie sur la contribution de la startup d'IA Anthropic, soutenue par Amazon

AMZN.O et Alphabet GOOGL.O . Il a notamment supprimé la création d'un comité gouvernemental de surveillance de l'IA.

M. Wiener a également supprimé les sanctions pénales en cas de parjure, bien que des poursuites civiles puissent toujours être engagées.

Le projet de loi révisé a reçu le soutien de certaines entreprises et dirigeants du secteur technologique, dont le milliardaire Elon Musk et Anthropic.

La startup spécialisée dans l'IA a déclaré la semaine dernière que ses inquiétudes quant à la possibilité que le projet de loi entrave l'innovation avaient été "considérablement réduites" et que les avantages l'emportaient probablement sur les coûts .

Elle a néanmoins souligné que certains aspects du projet de loi semblaient préoccupants ou ambigus.

Le directeur général de Tesla, M. Musk, qui dirige une entreprise d'IA appelée xAI, a déclaré qu'il plaidait en faveur d'une réglementation de l'IA sur le site et que la Californie devrait adopter le projet de loi.

D'autres entreprises s'y sont opposées.

Google (Alphabet) et Meta META.O ont exprimé leurs inquiétudes dans des lettres adressées à M. Wiener. Meta a déclaré que le projet de loi menaçait de rendre l'État défavorable au développement et au déploiement de l'IA. Le scientifique en chef de la société mère Facebook, Yann LeCun, a déclaré dans un billet X de juillet que le projet de loi pourrait nuire aux efforts de recherche.

OpenAI, dont le ChatGPT a accéléré la frénésie autour de l'IA depuis sa sortie fin 2022, a déclaré que l'IA devrait être réglementée par le gouvernement fédéral , mais que le SB 1047 créait un environnement juridique incertain.

Dans une lettre adressée à M. Wiener, OpenAI a déclaré qu'elle s'opposait à la loi SB 1047 parce qu'elle constitue une menace pour la croissance de l'IA et pourrait inciter les entrepreneurs et les ingénieurs à quitter l'État.

La possibilité que le projet de loi s'applique aux modèles d'IA à code source ouvert est particulièrement préoccupante. De nombreux technologues estiment que les modèles open-source sont importants pour créer plus rapidement des applications d'IA moins risquées, mais Meta et d'autres ont craint d'être tenus responsables de la surveillance des modèles open-source si le projet de loi est adopté. M. Wiener a déclaré qu'il soutenait les modèles open-source et l'un des récents amendements au projet de loi a relevé le niveau des modèles open-source couverts par ses dispositions.

Le projet de loi a également des partisans dans le secteur technologique. Geoffrey Hinton, largement considéré comme le "parrain de l'IA", Daniel Kokotajlo, ancien employé d'OpenAI, et le chercheur Yoshua Bengio ont déclaré qu'ils soutenaient le projet de loi.