((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
OpenAI met en place un contrôle parental pour ChatGPT sur le web et le mobile, suite à une action en justice des parents d'un adolescent décédé par suicide après que le chatbot de la startup d'intelligence artificielle l'ait prétendument guidé sur les méthodes d'automutilation.
L'entreprise a déclaré lundi que les contrôles permettront aux parents et aux adolescents de relier les comptes afin de renforcer les mesures de protection pour les adolescents.
Les autorités de régulation américaines examinent de plus en plus attentivement les entreprises d'IA en raison des effets négatifs potentiels des chatbots. En août, Reuters a rapporté que les règles d'IA de Meta META.O permettaient des conversations de flirt avec des enfants.
Dans le cadre des nouvelles mesures, les parents pourront réduire l'exposition à des contenus sensibles, contrôler si ChatGPT se souvient des conversations passées et décider si les conversations peuvent être utilisées pour entraîner les modèles d'OpenAI, a déclaré l'entreprise soutenue par Microsoft sur X.
Les parents pourront également définir des heures de silence qui bloqueront l'accès à certaines heures et désactiveront le mode vocal ainsi que la génération et l'édition d'images, a précisé OpenAI. Toutefois, les parents n'auront pas accès aux transcriptions des conversations d'un adolescent, a ajouté l'entreprise.
Dans les rares cas où les systèmes et les réviseurs formés détectent des signes de risque grave pour la sécurité, les parents peuvent être avertis et ne recevoir que les informations nécessaires pour assurer la sécurité de l'adolescent, a déclaré OpenAI.
Meta a également annoncé le mois dernier de nouvelles mesures de protection des adolescents pour ses produits d'intelligence artificielle. L'entreprise a déclaré qu'elle formera les systèmes à éviter les conversations de flirt et les discussions sur l'automutilation ou le suicide avec les mineurs et qu'elle restreindra temporairement l'accès à certains personnages de l'IA.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer