Quelles sont les principales réglementations européennes en matière d'IA ?

information fournie par Reuters •09/12/2023 à 15:46

par Foo Yun Chee

Les décideurs politiques et les législateurs de l'Union européenne ont conclu un accord vendredi sur le premier ensemble complet de règles régissant l'utilisation de l'intelligence artificielle (AI) dans des outils tels que ChatGPT et dans la surveillance biométrique.

Dans les semaines à venir, les deux parties s'efforceront de régler les détails susceptibles de modifier la législation finale, qui devrait entrer en vigueur au début de l'année prochaine et s'appliquer à partir de 2026.

D'ici là, les entreprises sont encouragées à signer un pacte volontaire sur l'IA pour mettre en œuvre les principales obligations de la réglementation.

Voici les points clés qui ont été convenus:

SYSTÈMES À HAUT RISQUE

Les systèmes d'IA dits à haut risque - ceux qui sont considérés comme pouvant nuire de manière significative à la santé, à la sécurité, aux droits fondamentaux, à l'environnement, à la démocratie, aux élections et à l'État de droit - devront se conformer à une série d'exigences, telles que la réalisation d'une étude d'impact sur les droits fondamentaux, et d'obligations pour obtenir l'accès au marché de l'UE.

Les systèmes d'IA considérés comme présentant des risques limités seront soumis à des obligations de transparence très légères, telles que des étiquettes de divulgation indiquant que le contenu a été généré par l'IA afin de permettre aux utilisateurs de décider de la manière de l'utiliser.

UTILISATION DE L'INTELLIGENCE ARTIFICIELLE DANS LE CADRE DE L'APPLICATION DE LA LOI

L'utilisation de systèmes d'identification biométrique à distance en temps réel dans les espaces publics par les forces de l'ordre ne sera autorisée que pour aider à identifier les victimes d'enlèvement, de traite des êtres humains ou d'exploitation sexuelle, et pour prévenir une menace terroriste spécifique et actuelle.

Ils seront également autorisés dans le cadre des efforts déployés pour retrouver les personnes soupçonnées d'infractions terroristes, de traite des êtres humains, d'exploitation sexuelle, de meurtre, d'enlèvement, de viol, de vol à main armée, de participation à une organisation criminelle et de crimes contre l'environnement.

SYSTÈMES D'INTELLIGENCE ARTIFICIELLE À USAGE GÉNÉRAL (GPAI) ET MODÈLES DE BASE

Les modèles GPAI et les modèles de base seront soumis à des exigences de transparence telles que l'élaboration d'une documentation technique, le respect de la législation européenne en matière de droits d'auteur et la diffusion de résumés détaillés sur le contenu utilisé pour la formation des algorithmes.

Les modèles de fondation classés comme présentant un risque systémique et les GPAI à fort impact devront procéder à des évaluations de modèles, évaluer et atténuer les risques, effectuer des tests contradictoires, rendre compte à la Commission européenne des incidents graves, garantir la cybersécurité et rendre compte de leur efficacité énergétique.

En attendant la publication de normes européennes harmonisées, les GPAI présentant un risque systémique peuvent s'appuyer sur des codes de pratique pour se conformer au règlement.

IA INTERDITE

Le règlement interdit les éléments suivants

- Les systèmes de catégorisation biométrique qui utilisent des caractéristiques sensibles telles que les convictions politiques, religieuses ou philosophiques, l'orientation sexuelle ou la race.

- L'extraction non ciblée d'images faciales sur l'internet ou de séquences de vidéosurveillance pour créer des bases de données de reconnaissance faciale;

- Reconnaissance des émotions sur le lieu de travail et dans les établissements d'enseignement.

- L'évaluation sociale basée sur le comportement social ou les caractéristiques personnelles.

- Les systèmes d'IA qui manipulent le comportement humain pour contourner son libre arbitre.

- L'IA utilisée pour exploiter les vulnérabilités des personnes en raison de leur âge, de leur handicap ou de leur situation sociale ou économique.

SANCTIONS EN CAS D'INFRACTION

En fonction de l'infraction et de la taille de l'entreprise concernée, les amendes commenceront à 7,5 millions d'euros (8 millions de dollars) ou 1,5 % du chiffre d'affaires annuel mondial, pour atteindre 35 millions d'euros ou 7 % du chiffre d'affaires mondial.

(1 dollar = 0,9293 euro)