Une étude révèle que l'IA ne détecte pas les signes de dépression dans les messages publiés sur les médias sociaux par les Noirs américains

information fournie par Reuters •28/03/2024 à 22:28

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Nancy Lapid

L'analyse des médias sociaux à l'aide de l'intelligence artificielle peut détecter des signaux de dépression chez les Américains blancs mais pas chez leurs homologues noirs, selon une étude qui souligne le risque de former des modèles d'intelligence artificielle pour des tâches liées aux soins de santé sans disposer de données provenant de divers groupes raciaux et ethniques.

Le modèle d'IA utilisé pour l'étude était plus de trois fois moins prédictif de la dépression lorsqu'il était appliqué aux Noirs qui utilisent le site Facebook de Meta Platforms META.O qu'aux Blancs, ont rapporté les chercheurs.

"La race semble avoir été particulièrement négligée dans les travaux sur l'évaluation linguistique des maladies mentales", écrivent les auteurs de l'étude américaine dans un rapport publié dans PNAS, the Proceedings of the National Academy of Sciences.

Des recherches antérieures sur les messages publiés sur les médias sociaux avaient indiqué que les personnes qui utilisent fréquemment des pronoms à la première personne, tels que je, moi ou le mien, et certaines catégories de mots, comme les termes d'autodépréciation, courent un risque plus élevé de souffrir de dépression.

Pour cette nouvelle étude, les chercheurs ont utilisé un outil d'IA "standard" pour analyser le langage dans les messages de 868 volontaires, dont un nombre égal d'adultes noirs et blancs partageant d'autres caractéristiques telles que l'âge et le sexe.

Tous les participants ont également répondu à un questionnaire validé utilisé par les prestataires de soins de santé pour dépister la dépression.

Selon Sharath Chandra Guntuku, co-auteur de l'étude et membre du Center for Insights to Outcomes à la Penn Medicine, l'utilisation de "I-talk" (attention centrée sur soi), l'autodépréciation, l'autocritique et le sentiment d'être un étranger étaient liés à la dépression exclusivement chez les personnes de race blanche.

"Nous avons été surpris de constater que ces associations linguistiques trouvées dans de nombreuses études antérieures ne s'appliquaient pas à l'ensemble de la population", a déclaré M. Guntuku.

Les données des médias sociaux ne peuvent pas être utilisées pour diagnostiquer une dépression chez un patient, a reconnu M. Guntuku, mais elles pourraient être utilisées pour évaluer les risques d'un individu ou d'un groupe.

Dans une étude antérieure, son équipe a analysé le langage utilisé dans les messages des médias sociaux pour évaluer la santé mentale des communautés pendant la pandémie de COVID-19.

Chez les patients souffrant de troubles liés à l'abus de substances, il a été démontré que le langage des médias sociaux indiquant une dépression permettait d'évaluer la probabilité d'abandon du traitement et de rechute, a déclaré Brenda Curtis, de l'Institut national américain sur l'abus de drogues des Instituts nationaux de la santé, qui a également collaboré à l'étude.