((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
(Ajoute des détails aux paragraphes 2 et 7)
OpenAI met en place des contrôles parentaux pour ChatGPT sur le web et le mobile lundi, suite à un procès intenté par les parents d'un adolescent décédé par suicide après que le chatbot de la startup d'intelligence artificielle l'ait prétendument coaché sur les méthodes d'automutilation.
Les contrôles permettent aux parents et aux adolescents d'opter pour des mesures de protection plus strictes en reliant leurs comptes, où l'une des parties envoie une invitation et où les contrôles parentaux ne s'activent que si l'autre partie accepte, a déclaré l'entreprise.
Les autorités de régulation américaines examinent de plus en plus attentivement les entreprises d'IA en raison des effets négatifs potentiels des chatbots. En août, Reuters a rapporté que les règles d'IA de Meta META.O permettaient des conversations de flirt avec des enfants.
Dans le cadre des nouvelles mesures, les parents pourront réduire l'exposition à des contenus sensibles, contrôler si ChatGPT se souvient des conversations passées et décider si les conversations peuvent être utilisées pour entraîner les modèles d'OpenAI, a déclaré l'entreprise soutenue par Microsoft sur X.
Les parents pourront également définir des heures de silence qui bloqueront l'accès à certaines heures et désactiveront le mode vocal ainsi que la génération et l'édition d'images, a précisé OpenAI. Toutefois, les parents n'auront pas accès aux transcriptions des conversations d'un adolescent, a ajouté l'entreprise.
Dans les rares cas où les systèmes et les évaluateurs qualifiés détectent des signes de risque grave pour la sécurité, les parents peuvent être avertis et ne recevoir que les informations nécessaires pour assurer la sécurité de l'adolescent, a déclaré OpenAI, ajoutant qu'ils seront informés si l'adolescent déconnecte les comptes.
OpenAI, qui compte environ 700 millions d'utilisateurs actifs hebdomadaires pour ses produits ChatGPT, est en train de mettre au point un système de prédiction de l'âge qui l'aidera à savoir si un utilisateur a moins de 18 ans, afin que le chatbot puisse automatiquement appliquer des paramètres adaptés aux adolescents.
Le mois dernier, Meta a également annoncé de nouvelles mesures de protection des adolescents pour ses produits d'intelligence artificielle. L'entreprise a déclaré qu'elle formera les systèmes à éviter les conversations de flirt et les discussions sur l'automutilation ou le suicide avec des mineurs et qu'elle limitera temporairement l'accès à certains personnages d'IA.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer