Un groupe d'experts de l'ONU met en garde contre les risques catastrophiques que pourrait entraîner un développement incontrôlé de l'IA

information fournie par Reuters •01/07/2026 à 15:08

((Traduction automatisée par Reuters à l'aide de l'apprentissage automatique et de l'IA générative, veuillez vous référer à l'avertissement suivant: https://bit.ly/rtrsauto))

* Selon le rapport, la complexité des tâches liées à l'IA double tous les 4 à 7 mois

* Les systèmes d’IA agentique devraient être capables de gérer davantage de tâches du monde réel

* M. Guterres a appelé à une action rapide en matière de réglementation de l’IA

(Ajout d’une nouvelle annonce concernant la commission sur l’IA aux paragraphes 16 et 17) par Olivia Le Poidevin

Les progrès de l’intelligence artificielle dépassent la compréhension scientifique et les politiques gouvernementales, ce qui signifie qu’il n’y a aucune garantie que cette technologie ne causera pas de dommages catastrophiques, a averti mercredi un groupe d’experts indépendants des Nations unies.

Un rapport préliminaire du Groupe scientifique international indépendant des Nations unies sur l’intelligence artificielle indique que les décideurs politiques sont confrontés à un dilemme croissant: ils ont besoin de données solides pour réglementer efficacement l’IA, mais ces données peinent à suivre le rythme de l’évolution rapide de la technologie.

"Les capacités de l’IA dépassent à la fois la compréhension scientifique et la capacité d’adaptation des gouvernements", a déclaré Yoshua Bengio, coprésident du groupe d’experts, composé de 40 experts issus de différentes régions.

"Face aux preuves de plus en plus nombreuses de comportements trompeurs de l’IA, la science ne peut actuellement garantir que, à mesure que ses capacités continuent de croître, l’IA ne causera pas de dommages catastrophiques, que ce soit de son propre chef ou du fait d’utilisateurs malveillants." Présenté comme la première évaluation mondiale indépendante des risques et des opportunités liés à l’IA, ce rapport vise àfournir des analyses scientifiques actualisées afin d’orienter la prise de décision alors que les gouvernements sont confrontés à des systèmes en constante évolution.

À court terme, il prévoit une évolution vers des systèmes d’IA "agentique" capables d’accomplir des tâches dans le monde réel, même si cette croissance pourrait être freinée par des pénuries d’énergie et de données de haute qualité. À plus long terme, il prévoit une IA capable de s’auto-améliorer, plus profondément intégrée à l’économie et convergeant avec des technologies telles que l’informatique quantique et la biotechnologie.

L'IA AGENTIQUE SE DÉVELOPPE RAPIDEMENT

L’IA fait déjà preuve d’un raisonnement de niveau expert en mathématiques et en sciences et accélère le développement de médicaments et de vaccins; selon le rapport, la complexité des tâches qu’elle est capable d’accomplir double tous les quatre à sept mois, ce qui pourrait permettre aux systèmes d’effectuer un travail qui prendrait des jours, voire des semaines, à des humains.

Si cela pourrait générer des avantages économiques significatifs, il reste difficile de savoir si les gains de productivité liés à l’utilisation de l’IA se traduiront par une croissance plus large ou auront un impact sur l’emploi.

Le groupe d’experts a également mis en évidence une série de préoccupations en matière de sécurité, telles que le risque de perdre le contrôle des systèmes d’IA à mesure qu’ils deviennent de plus en plus autonomes et trompeurs.

L’IA est déjà utilisée pour générer de la désinformation et d’autres contenus préjudiciables, et pourrait être exploitée à des fins de fraude, de cyberattaques et de menaces biologiques.

La gouvernance reste fragmentée, de nombreux pays n’ayant pas les capacités nécessaires pour évaluer ou façonner des systèmes d’IA avancés, ce qui les rend dépendants de technologies qu’ils ne peuvent ni comprendre ni contrôler pleinement. Les outils de sécurité existants reposent souvent sur des données de test limitées communiquées par les entreprises, indique le rapport.

Le secrétaire général de l’ONU, António Guterres, a exhorté les gouvernements à agir rapidement.

"Le monde ne peut pas réguler ce qu’il ne comprend pas", a déclaré M. Guterres dans un communiqué.

"Le potentiel est immense, mais les risques sont réels, et le coût de l’inaction ne cesse d’augmenter", a-t-il ajouté.

Les dirigeants politiques et technologiques mondiaux, aux côtés de l’agence des Nations unies chargée des technologies numériques, ont annoncé mercredi la création d’une nouvelle commission chargée de se pencher sur le développement de l’IA, dans un contexte d’inquiétudes croissantes quant à ses risques potentiels.

La Commission mondiale "AI for Good" sera coprésidée par le président rwandais Paul Kagame et le directeur général de Salesforce CRM.N , Marc Benioff, selon un document de présentation stratégique publié sur le site web de la commission. La secrétaire générale de l’UIT, Doreen Bogdan-Martin, en sera la vice-présidente permanente. D’autres agences des Nations unies devraient également y participer.