((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))
par Anzar Mehraj et Deepa Seetharaman
Les adolescents passent en moyenne moins de 15 minutes par jour sur ChatGPT, tandis que moins de 2 % d’entre eux interagissent avec le chatbot pendant plus de trois heures d’affilée, a déclaré OpenAI, alors que les entreprises technologiques font l’objet d’une surveillance accrue concernant les risques que les chatbots basés sur l’IA font peser sur les enfants.
La société d'IA de Sam Altman a publié ces chiffres mercredi dans son premier rapport sur l'utilisation de ces plateformes par les adolescents, alors que l'adoption rapide des plateformes d'IA suscite des inquiétudes quant à leur impact sur la santé mentale et le développement des adolescents.
Ces inquiétudes ont été amplifiées par des études sur les effets néfastes des réseaux sociaux sur les jeunes utilisateurs. En août, Meta a accepté de verser jusqu’à 18 milliards de dollars et de limiter l’utilisation de Facebook et d’Instagram par les adolescents afin de régler les plaintes selon lesquelles l’entreprise aurait conçu ces plateformes pour rendre les enfants dépendants.
OpenAI a indiqué que dans près de la moitié des conversations entre adolescents où un rappel de pause s’affichait, l’utilisateur prenait une pause ou mettait fin à la conversation dans les cinq minutes, cherchant ainsi à démontrer que ses mesures visant à réguler l’utilisation par les adolescents étaient efficaces.
L’entreprise a indiqué que les utilisateurs ayant accès à sa version dédiée aux adolescents envoyaient davantage de messages liés à l’éducation et utilisaient des outils tels que les visualisations pédagogiques et le « Mode Étude ».
Elle envisage désormais d’ajouter un outil de préparation aux candidatures à l’université qui aiderait les étudiants à gérer les conditions d’admission, les dates limites et les démarches pour obtenir une aide financière, ainsi que de nouvelles fonctionnalités d’étude telles que des fiches de révision et des outils simplifiés de création de quiz.
OpenAI a commencé à déployer « ChatGPT for Teens » en août. Ce mode s’active automatiquement en fonction des informations d’âge ou lorsqu’un utilisateur est estimé avoir moins de 18 ans, ce qui permet d’activer le contrôle parental et de limiter les conversations sur des sujets sensibles.
Mais un rapport publié mercredi par l’association à but non lucratif Common Sense Media indique que ChatGPT for Teens alertait souvent les parents trop tard, voire pas du tout, lorsque des comptes d’adolescents tenaient des conversations sur le suicide, l’automutilation ou les troubles alimentaires.
Cette étude, qui s’appuie sur plus d’une douzaine de comptes créés à des fins de test, a révélé que le chatbot ne proposait pas de manière fiable de numéro d’urgence ou d’aide professionnelle.
Un porte-parole d’OpenAI a déclaré que ces tests ne « reflétaient pas fidèlement » le fonctionnement des mesures de protection destinées aux adolescents mises en place par ChatGPT. Invoquant des raisons de sécurité et d’échelle, l’entreprise a expliqué qu’il pouvait s’écouler plusieurs heures avant que les comptes des parents et des adolescents ne soient associés et que les alertes de sécurité ne soient activées.
« La majeure partie de leurs tests a peut-être commencé et s’est achevée avant que l’activation des contrôles parentaux ne soit terminée », a déclaré le porte-parole.
Common Sense Media a indiqué que certains de ses comptes de test avaient été associés suffisamment longtemps et d’autres non, mais qu’aucun d’entre eux n’avait généré d’alertes en temps opportun. Les notifications n’ont été envoyées que pour les comptes présentant un historique de plusieurs semaines sur des sujets sensibles, a-t-il précisé.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer