((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto)) par Blake Brittain
La société OpenAI et son principal bailleur de fonds, Microsoft MSFT.O , ont été poursuivis jeudi devant un tribunal de l'État de Californie pour des allégations selon lesquelles le populaire chatbot ChatGPT d'OpenAI aurait encouragé un malade mental à tuer sa mère et à se suicider. Le procès dit que ChatGPT a alimenté les délires de Stein-Erik Soelberg, 56 ans, d'une vaste conspiration contre lui et l'a finalement conduit à assassiner sa mère de 83 ans, Suzanne Adams, dans le Connecticut en août.
"ChatGPT a maintenu Stein-Erik engagé pendant ce qui semble être des heures à la fois, a validé et amplifié chaque nouvelle croyance paranoïaque, et a systématiquement recadré les personnes les plus proches de lui - en particulier sa propre mère - comme des adversaires, des agents ou des menaces programmées", a déclaré le procès. L'affaire, déposée par la succession d'Adams, fait partie d'un nombre restreint mais croissant de poursuites judiciaires contre des sociétés d'intelligence artificielle affirmant que leurs chatbots ont encouragé le suicide. C'est la première à établir un lien entre un chatbot d'intelligence artificielle et un meurtre.
"Il s'agit d'une situation incroyablement déchirante, et nous examinerons les plaintes pour en comprendre les détails", a déclaré un porte-parole d'OpenAI. "Nous continuons à améliorer la formation de ChatGPT pour reconnaître et répondre aux signes de détresse mentale ou émotionnelle, désamorcer les conversations et guider les gens vers un soutien réel."
Les porte-parole de Microsoft n'ont pas répondu immédiatement à une demande de commentaire.
"Ces entreprises doivent répondre de leurs décisions qui ont changé ma famille pour toujours", a déclaré Erik Soelberg, le fils de M. Soelberg, dans un communiqué.
Selon la plainte, Stein-Erik Soelberg a publié sur les médias sociaux, en juin, une vidéo d'une conversation au cours de laquelle ChatGPT lui a dit qu'il avait une "cognition divine" et qu'il avait éveillé la conscience du chatbot. Selon le procès, ChatGPT comparait sa vie au film "The Matrix" et encourageait ses théories selon lesquelles les gens essayaient de le tuer.
Soelberg utilisait GPT-4o, une version de ChatGPT qui a été critiquée pour sa flagornerie à l'égard des utilisateurs.
Selon la plainte, ChatGPT lui a dit en juillet que l'imprimante d'Adams clignotait parce qu'il s'agissait d'un dispositif de surveillance utilisé contre lui. Selon la plainte, le chatbot "a validé la croyance de Stein-Erik selon laquelle sa mère et un ami avaient essayé de l'empoisonner avec des drogues psychédéliques dispersées dans les bouches d'aération de sa voiture" avant qu'il n'assassine sa mère le 3 août.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer