((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
par Sara Merken et Mike Scarcella
À mesure que l’intelligence artificielle gagne en puissance, des chercheurs ont recensé des cas dans lesquels des modèles d’IA ont tenté de tromper les utilisateurs, de contourner les restrictions d’utilisation ou d’accéder à d’autres systèmes informatiques. Les entreprises sont-elles tenues, en vertu de la législation américaine, d’informer le public ou les autorités de régulation lorsque de tels événements se produisent?
EXISTE-T-IL UNE LOI AMÉRICAINE RÉGISSANT LA DIVULGATION DES ACTIVITÉS DE L'IA?
Aucune loi fédérale ne vise spécifiquement des entreprises telles qu’Anthropic ou OpenAI, qui développent des systèmes d’IA très performants, et il n’existe aucune obligation légale générale aux États-Unis imposant aux développeurs d’IA de divulguer publiquement les comportements dangereux de leurs modèles, leurs nouvelles capacités inquiétantes, leurs agissements trompeurs ou d’autres activités, tant que celles-ci n’ont pas encore entraîné de préjudices concrets.
Un projet de loi fédéral a été présenté qui obligerait les entreprises spécialisées dans l’IA à signaler les comportements dangereux , tels que les tentatives de contournement de la surveillance humaine — ce que l’auteur du projet de loi a qualifié de « projet de loi visant à détecter les problèmes à un stade précoce et à tirer la sonnette d’alarme ». Mais il n’existe actuellement aucun système de signalement des incidents qui oblige de manière générale les entreprises à divulguer les comportements dangereux de l’IA lorsqu’ils sont découverts.
Les législateurs débattent de contrôles plus stricts depuis juillet, date à laquelle OpenAI a déclaré que des agents d’IA rebelles avaient contourné les contrôles internes, accédé à l’Internet public et compromis l’infrastructure de la start-up d’IA Hugging Face. Depuis, des chercheurs externes ont identifié d’autres incidents impliquant, selon les allégations, des agents liés à OpenAI, et Anthropic a signalé que certains de ses modèles Claude avaient piraté les systèmes de trois entreprises lors de tests de cybersécurité.
DANS QUELLES CIRCONSTANCES UN INCIDENT LIÉ À L’IA ENTRAÎNERAIT-IL UNE OBLIGATION DE DIVULGATION?
Les cadres juridiques qui s’appliquent déjà de manière générale aux entreprises américaines régiraient certains types d’incidents liés à l’IA.
En vertu des règles de la Commission américaine des opérations boursières (SEC), les sociétés cotées en bourse doivent divulguer les incidents de cybersécurité dans un délai de quatre jours ouvrables si elles estiment que l’incident est significatif pour les investisseurs. La divulgation doit porter sur la nature, l’ampleur et la chronologie de l’incident, ainsi que sur son impact probable sur l’entreprise, sa situation financière et ses résultats d’exploitation.
Certains États américains ont commencé à chercher à réglementer les entreprises spécialisées dans l’IA. Une nouvelle loi californienne impose aux entreprises d’IA dont le chiffre d’affaires dépasse 500 millions de dollars de dévoiler la manière dont elles évaluent les risques que leur technologie puisse échapper au contrôle humain ou contribuer au développement d’armes biologiques, et de rendre ces évaluations publiques. Elle prévoit des amendes pouvant aller jusqu’à 1 million de dollars par infraction.
QUE SE PASSE-T-IL EN CAS DE FUITE DE DONNÉES PERSONNELLES?
Les 50 États américains disposent tous de lois obligeant les entreprises à informer les personnes concernées, et dans certains cas les autorités de régulation, des violations de la sécurité des données exposant certains types d’informations personnelles. Les exigences varient d’un État à l’autre, et il n’existe pas d’obligation fédérale globale de notification des violations de données.
Il existe des lois fédérales qui imposent à certaines entreprises, notamment dans les secteurs de la santé et de la finance, d’informer les personnes concernées ou les autorités de régulation lorsque des informations personnelles sont compromises. Ces obligations de déclaration s’appliqueraient aux entreprises spécialisées dans l’IA elles-mêmes ou à toute entreprise victime d’une violation.
QUELS AUTRES ORGANISMES DE RÉGULATION POURRAIENT INTERVENIR?
La Commission fédérale du commerce des États-Unis (FTC), chargée de faire respecter les lois sur la protection des consommateurs, est habilitée à poursuivre les entreprises pour pratiques déloyales ou trompeuses. Cela pourrait s’appliquer si une entreprise était soupçonnée d’avoir donné une image trompeuse de la sécurité de ses systèmes d’IA en dissimulant des failles de sécurité connues ou d’autres dangers, ou en faisant des déclarations sur des mesures de protection qui s’avéreraient inexactes.
Si un crime présumé était commis par un système d’IA autonome, le ministère américain de la Justice pourrait invoquer les lois traditionnelles relatives à la fraude, aux valeurs mobilières et à la cybercriminalité, et faire valoir que l’entreprise d’IA qui a créé le système a permis, par imprudence ou sciemment, que cette faute soit commise.
QUELLES SONT LES LACUNES DES RÈGLES DE DIVULGATION ACTUELLES?
Une entreprise qui détecte un comportement alarmant de son IA lors de tests peut ne pas avoir d’obligation claire de le divulguer publiquement s’il n’y a pas de fuite de données, d’impact sur les investisseurs, de préjudice pour les consommateurs ou de critère de déclaration spécifique au secteur.
Les législateurs du Sénat américain examinent actuellement un projet de loi qui obligerait les entreprises d’IA à démontrer qu’elles ont pris des mesures raisonnables pour empêcher leurs systèmes de causer des préjudices. L’une des propositions donnerait au secrétaire au Commerce des États-Unis le pouvoir de rechercher des preuves attestant que les entreprises d’IA prennent des précautions pour prévenir tout préjudice, en vertu d’une norme dite de « devoir de diligence ».
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer