L'ancien responsable de la sécurité chez Google met en garde : l'IA pourrait nuire davantage aux enfants que ne l'ont fait les réseaux sociaux

information fournie par Reuters •22/09/2026 à 19:30

Ajouter Boursorama à vos sources

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

* Tom Siegel a rejoint Common Sense Media pour diriger son “Youth AI Safety Institute”

* L'objectif est de créer des normes indépendantes relatives aux risques liés à l'IA pour les jeunes, à l'instar des crash-tests automobiles

* Selon lui, les risques liés à l'IA comprennent le suicide, la psychose et une diminution de l'esprit critique

par Kenrick Cai

Le fondateur de l’équipe chargée de la confiance et de la sécurité chez Google ( GOOGL.O , filiale d’Alphabet) a appelé cette semaine à un ralentissement du développement de l’IA, avertissant que le secteur technologique était en train de répéter les mêmes erreurs que celles commises à l’ère des réseaux sociaux, ce qui pourrait causer des dommages encore plus graves aux enfants.

Les entreprises de réseaux sociaux versent des sommes colossales et font face à des milliers de poursuites judiciaires pour avoir porté préjudice à de jeunes utilisateurs, tandis que les gouvernements du monde entier s’efforcent de restreindre l’accès des mineurs à leurs plateformes.

L’année dernière, Reuters a révélé en exclusivité l’existence d’un document interne de Meta META.O indiquant que ses chatbots pouvaient “engager un enfant dans des conversations à caractère romantique ou sensuel”, ce qui a donné lieu à une enquête du Congrès . Malgré cela, la réglementation n’a pas encore rattrapé le rythme effréné du développement de l’IA.

“Nous nous trouvons dans une situation vraiment terrible en ce qui concerne l’impact de l’IA sur les enfants”, a déclaré à Reuters Tom Siegel, ancien vice-président chargé de la confiance et de la sécurité chez Google. “L’idée que le secteur parvienne à résoudre ce problème de lui-même, sans aide extérieure, est irréaliste.”

Les inquiétudes de M. Siegel reflètent une crainte grandissante chez certains experts du secteur et chercheurs universitaires: l’IA représenterait une menace plus grave pour les enfants que ne l’étaient les réseaux sociaux, à l’heure où le secteur s’empresse d’ajouter des fonctionnalités de plus en plus sophistiquées aux chatbots que des millions de jeunes utilisent déjà quotidiennement.

SIEGEL REJOINT LE YOUTH AI SAFETY INSTITUTE

M. Siegel a annoncé mardi qu’il avait rejoint Common Sense Media, une association de défense des enfants en ligne. Cette association à but non lucratif, créée en 2003, mène des recherches et évalue l’adéquation de divers médias à un public enfantin. En mai, elle a lancé le Youth AI Safety Institute, un organisme de recherche chargé d’évaluer l’utilisation de l’IA par les enfants, dont M. Siegel sera le premier directeur exécutif.

Anthropic et l’OpenAI Foundation, l’association à but non lucratif qui contrôle OpenAI, comptent parmi les bailleurs de fonds de l’institut.

M. Siegel a déclaré qu’il comptait élaborer des normes permettant de responsabiliser les entreprises du secteur de l’IA, et qu’il espérait y parvenir en collaborant avec ces entreprises et des groupes tiers.

Il a auparavant travaillé chez Google de 2004 à 2019, mais a quitté l’entreprise après avoir conclu que le secteur technologique avait “atteint un plateau” dans sa capacité à créer des espaces en ligne sûrs pour les consommateurs. Il a ensuite cofondé TrustLab, une start-up qui a développé des outils destinés à aider les entreprises à détecter les menaces pour la sécurité, avant de quitter son poste de directeur général au début du mois pour prendre ses nouvelles fonctions.

À l’heure actuelle, les grandes entreprises d’IA déploient des fonctionnalités destinées aux enfants sans mettre en place de garde-fous suffisants, a déclaré M. Siegel.

LES RISQUES VONT DU SUICIDE À LA PSYCHOSE

“Je pense que nous sommes confrontés à des scénarios très, très graves de préjudice”, a-t-il déclaré.

Il a suggéré que les entreprises pouvaient prendre des mesures immédiates pour mieux protéger les jeunes, citant des risques allant du suicide et de la psychose à la “décharge cognitive”, un terme utilisé pour décrire la diminution de l’esprit critique causée par le fait de s’en remettre à l’IA pour répondre à des questions.

Anthropic et OpenAI pourraient mettre en place des mesures de vérification d’âge plus rigoureuses pour empêcher les mineurs d’accéder à leurs chatbots, a-t-il déclaré. Son ancien employeur, Google, pourrait facilement intégrer une option permettant de désactiver les “AI Overviews” et le “mode IA” dans son moteur de recherche, a-t-il ajouté, à l’instar du bouton qui permet déjà aux utilisateurs de filtrer les contenus à caractère sexuellement explicite.

Si ces mesures pourraient affecter l’utilisation ou les bénéfices à court terme, les entreprises spécialisées dans l’IA qui n’agissent pas s’exposent à des poursuites judiciaires et à une réglementation qui pourraient avoir un impact bien plus lourd sur leurs activités, a ajouté M. Siegel.

Invité à réagir aux commentaires de M. Siegel, un porte-parole de Google a indiqué que les parents disposaient de contrôles leur permettant de désactiver complètement l’accès de leur enfant au moteur de recherche. “Nos fonctionnalités de recherche par IA constituent un moyen extrêmement utile pour les enfants et les adolescents d’apprendre, d’explorer et de donner du sens aux informations et au monde qui les entoure”, a déclaré le porte-parole.

Un porte-parole d’OpenAI a expliqué que l’entreprise utilisait des “signaux liés au compte et au comportement”, en plus de l’âge déclaré par l’utilisateur, pour identifier les utilisateurs mineurs. “Bien qu’aucune méthode de vérification de l’âge ne soit parfaite, nous testons et améliorons en permanence ces systèmes, notamment pour contrer les tentatives de contournement des mesures de protection.”

Anthropic n’a pas immédiatement répondu à une demande de commentaire.

Chez Common Sense Media, M. Siegel a indiqué qu’une de ses principales priorités serait de développer des normes indépendantes, similaires aux essais de collision automobile, qui permettraient d’évaluer le risque présenté par les outils d’IA accessibles au grand public. L’efficacité de ces normes dépendra en partie de la volonté des entreprises spécialisées dans l’IA de collaborer, une probabilité que M. Siegel a jugée incertaine, mais suffisamment élevée pour qu’il accepte ce poste.