Des chercheurs de Stanford publient un rapport sur la transparence de l'IA et invitent les entreprises technologiques à en révéler davantage

information fournie par Reuters •18/10/2023 à 15:00

par Anna Tong

Des chercheurs de l'université de Stanford ont publié mercredi un rapport mesurant la transparence des modèles d'intelligence artificielle de sociétés telles que OpenAI et Google GOOGL.O , et les auteurs ont exhorté les sociétés à révéler davantage d'informations telles que les données et la main-d'œuvre humaine utilisées pour former les modèles.

"Ces trois dernières années, il est clair que la transparence est en baisse alors que la capacité est en pleine expansion", a déclaré Percy Liang, professeur à Stanford et chercheur à l'origine de l'indice de transparence des modèles de fondation. "Nous considérons cela comme très problématique, car nous avons vu dans d'autres domaines, comme les médias sociaux, que lorsque la transparence diminue, de mauvaises choses peuvent en résulter."

Les modèles de base sont des systèmes d'intelligence artificielle formés sur des ensembles de données massives et capables d'effectuer une variété de tâches allant de l'écriture au codage. Les entreprises qui développent des modèles de base sont à l'origine de l'essor de l'IA générative qui, depuis le lancement de ChatGPT, le produit à succès d'OpenAI soutenu par Microsoft MSFT.O , a captivé les entreprises de toutes tailles.

Dans un monde qui s'appuie de plus en plus sur ces modèles pour la prise de décision et l'automatisation, il est crucial de comprendre leurs limites et leurs biais, affirment les auteurs du rapport.

L'indice a évalué 10 modèles populaires sur la base de 100 indicateurs de transparence différents, tels que les données d'entraînement et la quantité de calcul utilisée. Tous les modèles ont obtenu des résultats "peu impressionnants": même le modèle le plus transparent, le Llama 2 de Meta META.O , a reçu une note de 53 sur 100. Le modèle Titan d'Amazon a obtenu la note la plus basse, soit 11 sur 100. Le modèle GPT-4 d'OpenAI a reçu une note de 47 sur 100.

Les auteurs de l'indice espèrent que le rapport encouragera les entreprises à accroître la transparence de leurs modèles de fondation et qu'il servira de point de départ aux gouvernements qui s'interrogent sur la manière de réglementer ce domaine en plein essor.

L'indice est un projet du Centre de recherche sur les modèles de fondation de l'Institut Stanford pour l'intelligence artificielle centrée sur l'homme.