le "parrain de l'IA" et d'autres appellent à une réglementation plus stricte en matière de "deepfake" dans une lettre ouverte

information fournie par Reuters •21/02/2024 à 19:50

((Traduction automatisée par Reuters, veuillez consulter la clause de non-responsabilité https://bit.ly/rtrsauto))

(Mise à jour avec Joy Buolamwini retirée de la liste des signataires après la publication de la lettre) par Anna Tong

21 février - Des experts en intelligence artificielle et des dirigeants du secteur, dont l'un des pionniers de la technologie, Yoshua Bengio, ont signé une lettre ouverte appelant à une plus grande réglementation de la création de "deepfakes", en invoquant les risques potentiels pour la société.

aujourd'hui, les "deepfakes" concernent souvent l'imagerie sexuelle, la fraude ou la désinformation politique. Étant donné que l'IA progresse rapidement et rend la création de deepfakes beaucoup plus facile, des garde-fous sont nécessaires", indique le groupe dans la lettre, rédigée par Andrew Critch, chercheur en IA à l'université de Berkeley.

Les deepfakes sont des images, des sons et des vidéos réalistes mais fabriqués par des algorithmes d'IA, et les progrès récents de la technologie les rendent de plus en plus impossibles à distinguer des contenus créés par des humains.

La lettre, intitulée "Disrupting the Deepfake Supply Chain ", contient des recommandations sur la manière de réglementer les deepfakes, notamment la criminalisation totale de la pédopornographie par deepfake, des sanctions pénales pour toute personne créant ou facilitant sciemment la diffusion de deepfakes nuisibles et l'obligation pour les entreprises d'IA d'empêcher leurs produits de créer des deepfakes nuisibles.

Mercredi matin, plus de 400 personnes issues de différents secteurs, notamment du monde universitaire, du spectacle et de la politique, avaient signé la lettre.

Parmi les signataires figurent Steven Pinker, professeur de psychologie à Harvard, deux anciens présidents estoniens, des chercheurs de Google GOOGL.O DeepMind et un chercheur d'OpenAI.

Veiller à ce que les systèmes d'IA ne nuisent pas à la société est une priorité pour les régulateurs depuis qu'OpenAI MSFT.O , soutenue par Microsoft, a dévoilé ChatGPT fin 2022, qui a séduit les utilisateurs en engageant avec eux une conversation semblable à celle d'un humain et en effectuant d'autres tâches.

De nombreuses personnalités ont mis en garde contre les risques liés à l'IA, notamment une lettre signée par Elon Musk l'année dernière, qui appelait à une pause de six mois dans le développement de systèmes plus puissants que le modèle d'IA GPT-4 d'OpenAI.