Les régulateurs se veulent vigilants face à l'intelligence artificielle potentiellement " raciste"

information fournie par Newsmanagers •08/06/2017 à 12:30

(NEWSManagers.com) - Le big data et encore plus l'intelligence artificielle, sont des outils informatiques qui intéressent le monde de la gestion d'actifs en France. Non seulement pour les capacités d'analyse et d'anticipation des marchés financiers qu'ils promettent, mais aussi pour leurs capacités d'analyse du comportement des clients, déjà utilisées dans d'autres secteurs en France ou dans d'autres types de services financiers à l'étranger. " On ne voit pas encore d'utilisation du big data dans les sociétés financières françaises à des fins commerciales, mais nous savons très bien que cela va venir" , a prévenu Claire Castanet, directrice des relations avec les épargnants à l'Autorité des marchés financiers ( AMF), lors de la présentation du rapport annuel du pôle commun avec l'Autorité de contrôle prudentiel et de résolution (ACPR) dédié à la distribution des produits financiers. " Nous sommes vigilants sur ce sujet et pour nous y préparer, nous rencontrons nos collègues à l'international qui sont déjà confrontés à ce développement" , ajoute Olivier Fliche, directeur du pôle des pratiques commerciales à l'ACPR.

Pour les deux régulateurs, le point essentiel à regarder est celui de l'hypersegmentation de la clientèle par l'analyse des données, qui peut conduire à l'exclusion de certaines catégories de clientèles, notamment dans la distribution de contrats d'assurances. " On a vu des cas à l'étranger d'algorithmes créant des biais sociaux et devenir en quelque sorte racistes en termes de pratiques commerciales" , explique Olivier Fliche. Selon lui, une des solutions passera par la formation des ingénieurs qui développent les algorithmes pour faire en sorte que ces derniers évitent l'exclusion ou le biais commercial.