((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
* Un nouveau mode s'active pour les utilisateurs dont l'âge est estimé à moins de 18 ans ou qui se déclarent âgés de 13 à 17 ans
* Les parents peuvent définir des “heures calmes”, gérer les paramètres et recevoir des alertes en cas de discussions portant sur des sujets sensibles
* OpenAI indique qu’il opte par défaut pour le paramètre le plus sûr en cas de doute sur l’âge de l’utilisateur
(Ajout d’informations contextuelles aux paragraphes 9 et 10, ainsi que d’un graphique)
OpenAI a lancé mardi une version de ChatGPT spécialement conçue pour les mineurs, dotée de contrôles parentaux et de fonctionnalités de sécurité renforcées, alors que les plateformes en ligne font l’objet d’une surveillance accrue en raison des risques liés aux chatbots basés sur l’IA.
Le nouveau mode “ChatGPT for Teens” limitera les conversations sur des sujets à haut risque tels que l’automutilation, la violence et les troubles alimentaires, tout en proposant des outils pédagogiques qui aident les élèves à apprendre plutôt qu’à simplement partager la réponse, a déclaré OpenAI dans un article de blog.
Il s’activera automatiquement lorsqu’un utilisateur sera estimé comme étant âgé de moins de 18 ans, ou s’il indique lui-même avoir entre 13 et 17 ans, et permettra aux parents de définir des “heures calmes”, de gérer certains paramètres et de recevoir des notifications lorsque les adolescents abordent des sujets sensibles.
Cette initiative aligne le créateur de ChatGPT sur les géants de la tech tels que Meta META.O , qui ont renforcé les mesures de protection des adolescents sur leurs plateformes face à des menaces juridiques croissantes et à des preuves de préjudice pour leur santé mentale. Une pression mondiale croissante exercée par divers pays pour interdire les réseaux sociaux aux adolescents en raison de leurs effets néfastes vient s’ajouter à cette tension.
Pour OpenAI, qui fait déjà l’objet de multiples poursuites judiciaires alléguant que ChatGPT a causé un préjudice à des enfants, le défi est aggravé par le fait que les chatbots capables de converser comme des humains sont de plus en plus considérés comme des confidents offrant un soutien émotionnel.
Des experts ont averti que le recours à l’automatisation pour des conseils en matière de santé mentale comporte des dangers. Des familles dont des proches seraient décédés à la suite d’interactions avec des chatbots ont critiqué l’absence de mesures de protection , tandis que l’utilisation croissante de l’IA par les élèves pour leurs devoirs a suscité des inquiétudes quant aux effets néfastes de cette technologie sur l’apprentissage.
“Nous pensons que l’IA devrait élargir les opportunités éducatives, c’est pourquoi nous avons conçu ChatGPT for Teens pour accompagner les moments en dehors de la salle de classe, lorsque l’aide n’est pas toujours disponible”, a déclaré OpenAI.
Ce nouveau mode propose des outils pédagogiques tels qu’un mode “Étude” pour un apprentissage guidé, des rappels de devoirs, des quiz et des visualisations.
Le Pew Research Center a constaté en début d’année que la recherche d’informations et l’aide aux devoirs constituaient les utilisations les plus courantes de l’IA par les adolescents américains, suivies par le divertissement et les loisirs.
OpenAI, qui exige que les utilisateurs aient au moins 13 ans ou l’âge minimum requis dans leur pays, a indiqué qu’elle s’appuierait sur une combinaison de données (âge déclaré par l’utilisateur, signaux comportementaux et liés au compte) ainsi que sur des procédures de vérification pour estimer l’âge d’un utilisateur. L’entreprise a précisé qu’elle opterait par défaut pour le paramètre le plus sûr en cas de doute sur l’âge.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer