((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto)) par Katie Paul
Le comité de surveillance de Meta META.O a déclaré jeudi que les règles de l'entreprise n'étaient "pas suffisamment claires" pour interdire les représentations sexuellement explicites de personnes réelles générées par l'IA et a appelé à des changements pour empêcher que de telles images ne circulent sur ses plateformes.
Le conseil, qui est financé par le géant des médias sociaux mais fonctionne de manière indépendante, a rendu sa décision après avoir examiné deux faux pornographiques de femmes célèbres créés à l'aide de l'intelligence artificielle et postés sur Facebook et Instagram de Meta.
Meta a déclaré qu'elle examinerait les recommandations du comité et fournirait une mise à jour sur les changements adoptés.
Dans son rapport, la commission n'a identifié les deux femmes que comme des personnalités publiques de l'Inde et des États-Unis, pour des raisons de protection de la vie privée.
Le comité a constaté que les deux images violaient la règle de Meta interdisant les "photoshop désobligeants et sexualisés", que la société considère comme une forme d'intimidation et de harcèlement, et a déclaré que Meta aurait dû les supprimer rapidement.
Dans le cas de la femme indienne, Meta n'a pas examiné le rapport de l'utilisateur concernant l'image dans les 48 heures, ce qui a entraîné la fermeture automatique du ticket sans qu'aucune mesure ne soit prise.
L'utilisateur a fait appel, mais l'entreprise a de nouveau refusé d'agir et n'est chiffre d'affaires sur sa décision qu'après que le conseil d'administration se soit saisi de l'affaire.
Dans le cas de la célébrité américaine, les systèmes de Meta ont automatiquement supprimé l'image.
"Les restrictions imposées à ce contenu sont légitimes", a déclaré le conseil d'administration. "Compte tenu de la gravité des dommages, la suppression du contenu est le seul moyen efficace de protéger les personnes concernées
La commission a recommandé à Meta de mettre à jour son règlement afin d'en clarifier le champ d'application, en précisant, par exemple, que l'utilisation du mot "photoshop" est "trop étroite" et que l'interdiction devrait couvrir un large éventail de techniques d'édition, y compris l'IA générative.
Le conseil a également reproché à Meta d'avoir refusé d'ajouter l'image de l'Indienne à une base de données permettant des suppressions automatiques comme celle qui s'est produite dans le cas de l'Américaine.
Selon le rapport, Meta a déclaré au conseil d'administration qu'il s'appuyait sur la couverture médiatique pour déterminer quand ajouter des images à la base de données, une pratique que le conseil d'administration a qualifiée d'"inquiétante"
"De nombreuses victimes de fausses images intimes ne sont pas connues du public et sont obligées d'accepter la diffusion de leurs représentations non consensuelles ou de rechercher et de signaler chaque cas", a déclaré la commission.
0 commentaire
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer