L'entreprise xAI de Musk limite l'édition d'images Grok après les préoccupations exprimées par la Californie et l'Europe

information fournie par Reuters •15/01/2026 à 08:48

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

*

xAI empêche tous les utilisateurs de modifier des images de "vraies personnes portant des vêtements révélateurs"

*

Les autorités californiennes demandent des réponses à xAI après que son chatbot Grok a généré des images sexualisées de femmes et de mineurs

*

Le procureur général déclare que l'État veut que X "arrête la diffusion de ce contenu"

*

Musk déclare qu'il n'est pas au courant des "images de mineurs nus" générées par Grok

(Ajout de la réaction des gouvernements; paragraphe 2) par Raphael Satter

xAI, la société d'intelligence artificielle d'Elon Musk , a déclaré mercredi en fin de journée avoir imposé des restrictions à tous les utilisateurs de son chatbot Grok AI, qui limitent l'édition d'images, après que le service a produit des images sexualisées qui ont suscité l'inquiétude des autorités de régulation mondiales.

De l'Europe à l'Asie, les gouvernements et les autorités de régulation s'attaquent au contenu sexuellement explicite généré par Grok, en imposant des interdictions et en exigeant des garanties dans le cadre d'une campagne mondiale de plus en plus importante pour lutter contre les contenus illégaux.

"Nous avons mis en œuvre des mesures technologiques pour empêcher le compte Grok de permettre l'édition d'images de personnes réelles portant des vêtements révélateurs tels que des bikinis", a déclaré la société dans un billet X.

"Cette restriction s'applique à tous les utilisateurs, y compris les abonnés payants."

Des images hyperréalistes de femmes manipulées pour donner l'impression qu'elles sont dans des bikinis microscopiques, dans des poses dégradantes ou couvertes d'ecchymoses ont commencé à inonder la plateforme de médias sociaux X ce mois-ci. Dans certains cas, des mineures ont été déshabillées numériquement jusqu'au maillot de bain, ce qui a suscité de nombreuses critiques.

La semaine dernière, Grok a commencé à n'autoriser que les abonnés payants à utiliser ses fonctions de génération et d'édition d'images.

X a réduit la capacité de Grok à générer ou à modifier des images publiquement pour un grand nombre de ses utilisateurs, mais le chatbot a continué à produire en privé des images à caractère sexuel sur demande mercredi avant l'annonce de xAI, a constaté Reuters.

Le milliardaire Musk possède xAI, qui à son tour possède X, anciennement connu sous le nom de Twitter.

Mercredi, xAI a ajouté qu'elle empêchait les utilisateurs, en fonction de leur localisation, de générer des images de personnes en petite tenue dans les "juridictions où c'est illégal". L'entreprise n'a pas identifié ces juridictions.

LES AUTORITÉS CALIFORNIENNES EXIGENT DES RÉPONSES

Plus tôt dans la journée de mercredi, le gouverneur et le procureur général de Californie ont déclaré qu'ils exigeaient des réponses de la part de xAI après que Musk a affirmé qu'il n'avait pas connaissance d'images de mineurs nus générées par Grok.

"Nous exigeons des réponses immédiates de la part de xAI sur leur plan pour arrêter la création et la diffusion de ce contenu", a écrit le procureur général de Californie Rob Bonta sur X.

Le gouverneur Gavin Newsom a demandé à Bonta "d'enquêter immédiatement sur l'entreprise et de tenir xAI pour responsable."

Les commentaires de Newsom et Bonta sont les plus sérieux émis jusqu'à présent par les autorités américaines face à l'explosion de l'imagerie sexualisée non consensuelle générée par l'IA sur X .

La décision californienne vient s'ajouter à la pression que Musk subit aux États-Unis et dans le monde entier. Les législateurs et les groupes de défense ont demandé à Apple AAPL.O et à Google GOOGL.O de retirer Grok des magasins d'applications.

Dans un premier temps, Musk s'est publiquement moqué de la controverse, en postant des emojis humoristiques en réponse aux commentaires des utilisateurs sur l'afflux de photos sexualisées.

Plus récemment, X a déclaré qu'elle traitait sérieusement les signalements de matériel pédopornographique et qu'elle appliquait une politique rigoureuse en la matière.

Plus tôt dans la journée de mercredi, Musk a déclaré qu'il n'avait "pas connaissance d'images de mineurs nus générées par Grok. Littéralement zéro."

X n'a pas immédiatement répondu aux questions concernant l'annonce de la Californie et les commentaires de Musk.

xAI n'a pas répondu directement à une demande de commentaire sur les déclarations des autorités californiennes ou sur le message de Musk indiquant qu'il n'était pas au courant de l'existence d'images sexualisées de mineurs.

Reuters a reçu son message générique de réponse automatique pour les demandes de renseignements: "Legacy Media Lies."