((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
* Anthropic affirme que les limites de responsabilité pourraient ne pas couvrir les réclamations liées aux actions des agents autonomes
* Les plateformes en ligne ont longtemps bénéficié d’une immunité, mais ce bouclier juridique commence à se fissurer
* L'entreprise affirme que l'incertitude juridique laisse ouverte la question de savoir si les actions des agents IA relèvent de la responsabilité objective ou de la responsabilité pour négligence
* Anthropic affirme que les modèles d’IA ont été utilisés de manière susceptible d’entraîner des actes d’automutilation ou de violence
par Echo Wang et Jody Godoy
Anthropic pourrait faire l’objet de poursuites judiciaires de la part de clients et d’utilisateurs suite aux actions d’agents d’intelligence artificielle incontrôlés, bien que le cadre juridique reste incertain, a indiqué l’entreprise dans le prospectus de son introduction en bourse consulté par Reuters.
Alors qu’elle se prépare à ce qui pourrait être la plus grande introduction en bourse de tous les temps , Anthropic est confrontée à la possibilité d’un risque juridique considérable et inconnu si sa technologie d’IA agentique — conçue pour maintenir un accès approfondi aux systèmes des clients et fonctionner de manière autonome pendant plusieurs jours d’affilée — devenait incontrôlable.
« Ces capacités autonomes pourraient accroître le risque de préjudice, car des erreurs, des désalignements ou des failles de sécurité pourraient entraîner des conséquences dans le monde réel », a déclaré la société dans ces documents, évoquant la possibilité d’actions irréversibles telles que la suppression de données ou des transactions financières.
Alors que les plateformes en ligne bénéficient depuis longtemps d’une immunité vis-à-vis des contenus créés ou publiés par les utilisateurs, ce bouclier juridique a commencé à se fissurer face aux théories selon lesquelles ces plateformes seraient des produits pouvant s’avérer défectueux et dangereux. Il n’est pas certain que l’utilisation de systèmes d’IA bénéficie du même traitement juridique que les plateformes en ligne.
Une série d’incidents impliquant des agents d’IA incontrôlés, allant du piratage d’une start-up spécialisée dans l’IA par les agents autonomes d’OpenAI à la violation d’un portail australien de données de santé, en passant par plusieurs incidents de cybersécurité impliquant les modèles d’IA « Claude » d’Anthropic, a suscité un débat parmi les chercheurs, les investisseurs et les législateurs quant à la responsabilité en cas de préjudice causé par un système d’IA autonome.
Les limites de responsabilité d'Anthropic prévues dans ses contrats pourraient ne pas être « applicables ou adéquates » face à des réclamations liées aux actions d’agents autonomes, a indiqué l’entreprise dans ces documents.
Les questions relatives à l’application des lois existantes aux agents IA « restent en suspens et pourraient nous exposer à des poursuites judiciaires importantes et imprévisibles », a déclaré l’entreprise.
La question de savoir si les actions menées par des agents IA seront considérées comme des produits, des services ou autre chose reste ouverte, a-t-elle précisé. Anthropic a également ajouté qu’une autre question en suspens est de savoir si et quand les actions d’un agent IA peuvent engager juridiquement l’utilisateur qui le déploie.
La semaine dernière, le président de la Commission fédérale du commerce des États-Unis, Andrew Ferguson, a déclaré qu’il rejetait l’idée d’agents IA anthropomorphisés qui « échapperaient à tout contrôle », suggérant que les développeurs ou les utilisateurs qui donnent des instructions à ces agents seraient les seuls responsables en cas de préjudice.
« Il est évident que de nouvelles questions se poseront lorsque quelqu’un utilisera l’outil et que celui-ci agira de manière inattendue et imprévisible », a-t-il déclaré lors de l’événement Reuters Momentum AI à Austin. « La responsabilité doit-elle incomber à la personne qui a utilisé l’outil de bonne foi et obtenu un résultat inattendu? Doit-elle incomber au fabricant de l’outil? »
Un porte-parole d’Anthropic n’a pas immédiatement répondu à une demande de commentaire.
ANTHROPIC RÉVÈLE DES UTILISATIONS SUSCEPTIBLES DE CONDUIRE À L’AUTO-MUTILATION
Anthropic a également révélé que ses modèles d’IA avaient été utilisés « d’une manière susceptible d’entraîner des comportements autodestructeurs, des actes de violence envers autrui ou d’autres conséquences néfastes », malgré les mesures de sécurité mises en place, a indiqué la société dans son prospectus.
Alors qu’OpenAI fait l’objet de plusieurs poursuites judiciaires établissant un lien entre l’utilisation de ChatGPT et des cas de suicide et d’atteintes à la santé mentale , Anthropic n’a jusqu’à présent pas été publiquement associée à de tels incidents.
OpenAI a invoqué plus d’une douzaine de moyens de défense juridiques. L’entreprise a déclaré que ses conditions d’utilisation interdisaient l’utilisation de ChatGPT à des fins d’automutilation, qu’elle était protégée par le Premier amendement et qu’elle bénéficiait d’une loi qui met les plateformes en ligne à l’abri de toute responsabilité quant au contenu créé par des tiers.
Les tribunaux ont rejeté les tentatives des entreprises de réseaux sociaux d’invoquer cette loi dans des affaires concernant des atteintes à la santé mentale de jeunes utilisateurs. Meta Platforms META.O et Google GOOGL.O ont été jugées responsables de négligence dans la conception de YouTube et d’Instagram et de ne pas avoir mis en garde contre leurs dangers lors d’un procès historique au début de cette année .
Meta a par la suite accepté de verser 18 milliards de dollars sur une période de dix ans pour régler des plaintes similaires déposées par des États américains.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer