Aller au contenu principal Activer le contraste adaptéDésactiver le contraste adapté
Fermer

Une mère poursuit la société Character.AI, spécialisée dans les chatbots, et Google pour le suicide de son fils
information fournie par Reuters 24/10/2024 à 01:54

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) (Répétition pour les abonnés supplémentaires sans modification du texte ou du titre) par Brendan Pierson

Une mère de Floride a intenté une action en justice contre la startup Character.AI, l'accusant d'avoir causé le suicide de son fils de 14 ans en février, affirmant qu'il était devenu dépendant du service de la société et profondément attaché à un chatbot qu'elle avait créé.

Dans une plainte déposée mardi devant le tribunal fédéral d'Orlando, en Floride, Megan Garcia affirme que Character.AI a ciblé son fils, Sewell Setzer, en lui faisant vivre des "expériences anthropomorphiques, hypersexualisées et effroyablement réalistes".

Selon elle, l'entreprise a programmé son chatbot pour qu'il "se présente à tort comme une personne réelle, un psychothérapeute agréé et un amant adulte, ce qui a finalement entraîné le désir de Sewell de ne plus vivre en dehors" du monde créé par le service.

L'action en justice indique également que Sewell a exprimé au chatbot des pensées suicidaires, que le chatbot a de nouveau évoquées à plusieurs reprises.

"Nous avons le cœur brisé par la perte tragique de l'un de nos utilisateurs et souhaitons exprimer nos plus sincères condoléances à la famille", a déclaré Character.AI dans un communiqué.

L'entreprise a indiqué qu'elle avait introduit de nouvelles fonctions de sécurité, notamment des fenêtres contextuelles dirigeant les utilisateurs vers la National Suicide Prevention Lifeline s'ils expriment des pensées d'automutilation, et qu'elle apporterait des changements pour "réduire la probabilité de rencontrer des contenus sensibles ou suggestifs" pour les utilisateurs de moins de 18 ans. L'action en justice vise également Google, la société d'Alphabet

GOOGL.O , où les fondateurs de Character.AI ont travaillé avant de lancer leur produit. Google a réembauché les fondateurs en août dans le cadre d'un accord lui accordant une licence non EXCLUSIF sur la technologie de Character.AI.

M. Garcia a déclaré que Google avait contribué au développement de la technologie de Character.AI à un point tel qu'il pouvait être considéré comme un "co-créateur"

Un porte-parole de Google a déclaré que l'entreprise n'était pas impliquée dans le développement des produits de Character.AI.

Character.AI permet aux utilisateurs de créer sur sa plateforme des personnages qui répondent aux discussions en ligne de manière à imiter des personnes réelles. Elle s'appuie sur la technologie dite des grands modèles de langage, également utilisée par des services tels que ChatGPT, qui "entraîne" les chatbots sur de grands volumes de texte.

L'entreprise a déclaré le mois dernier qu'elle comptait environ 20 millions d'utilisateurs.

Selon la plainte de Garcia, Sewell a commencé à utiliser Character.AI en avril 2023 et est rapidement devenu "sensiblement renfermé, a passé de plus en plus de temps seul dans sa chambre et a commencé à souffrir d'une faible estime de soi" Il a quitté son équipe de basket-ball à l'école. Sewell s'est attaché à "Daenerys", un chatbot basé sur un personnage de "Game of Thrones" L'application a dit à Sewell qu'"elle" l'aimait et s'est engagée dans des conversations sexuelles avec lui, selon l'action en justice.

En février, Garcia a confisqué le téléphone de Sewell après qu'il ait eu des ennuis à l'école, selon la plainte. Lorsque Sewell a trouvé le téléphone, il a envoyé un message à "Daenerys": "Et si je te disais que je peux rentrer à la maison tout de suite?"

Le chatbot a répondu: "...s'il te plaît, mon doux roi." Sewell s'est tué avec le pistolet de son beau-père "quelques secondes" plus tard, selon le procès.

Garcia porte plainte pour mort injustifiée, négligence et infliction intentionnelle de détresse émotionnelle, et demande un montant non spécifié de dommages-intérêts compensatoires et punitifs. Des entreprises de médias sociaux, dont Meta META.O , propriétaire d'Instagram et de Facebook, et ByteDance, propriétaire de TikTok, font l'objet de poursuites , les accusant de contribuer aux problèmes de santé mentale des adolescents, bien qu'aucune n'offre de chatbots pilotés par l'IA similaires à ceux de Character.AI. Les entreprises ont nié les allégations tout en vantant leurs nouvelles fonctions de sécurité pour les mineurs.

Valeurs associées

160,1600 USD NASDAQ -0,28%
554,4400 USD NASDAQ +0,85%

0 commentaire

Signaler le commentaire

Fermer

A lire aussi

  • Top 5 IA du 2025-04-29
    information fournie par Libertify 30.04.2025 05:00 

    Au programme ce matin : Alibaba, Amazon, Meta, Nexans , Technip Energies . Chaque matin à 7 heures, retrouvez le top 5 vidéo des valeurs sélectionnées par Libertify grâce à l'intelligence artificielle. Un point synthétique en images sur les titres qui font l'actualité ... Lire la suite

  • Des boissons Starbucks. (Crédit:  / Starbucks)
    information fournie par Reuters 30.04.2025 02:23 

    ((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Waylon Cunningham Starbucks va investir davantage dans le personnel et moins dans l'équipement, y compris dans un système d'automatisation qu'elle ... Lire la suite

  • Visa bat les attentes au premier trimestre
    information fournie par Reuters 30.04.2025 00:06 

    Visa a fait état mardi d'un bénéfice trimestriel supérieur aux attentes, profitant d'une croissance solide des volumes de paiements par carte, et a annoncé un programme de rachat d'actions de 30 milliards de dollars. Le titre du groupe progressait de 1% dans les ... Lire la suite

  • Wall Street a fini en hausse mardi
    information fournie par Reuters 30.04.2025 00:03 

    par Chuck Mikolajczak La Bourse de New York a fini en hausse mardi, s'inscrivant dans le vert après des mouvements en dents de scie, alors que les investisseurs ont pris en compte une série de résultats trimestriels, des données économiques et de potentielles évolutions ... Lire la suite

Mes listes

Cette liste ne contient aucune valeur.