Né d'une collaboration entre l'entreprise Linagora et le CNRS, le robot conversationnel, encore au stade de "projet de recherche", a été mis en ligne de matière "prématurée", affichant ses lacunes auprès des utilisateurs.
( AFP / KIRILL KUDRYAVTSEV )
"Nous n’aurions pas dû sortir le service lucie.chat sans ces explications et précautions d’usage". Cible des critiques, l'entreprise Linagora a reconnu une "mise en ligne prématurée" de son nouveau robot conversationnel baptisé Lucie, dont le lancement a fait flop. Développée en open source et pensé pour offrir une alternative française aux intelligences artificielles (IA) des géants de la tech, le chatbot a dû être débranché après avoir livré une cascade de résultats absurdes aux internautes qui l'interrogeaient.
Ce qui n'était qu'un modèle "brut" développé à des fins de recherche s'est retrouvé en accès libre, avec une miriade de non-sens à la clé. Calculs absurdes, "œufs de vache", "poids d'un trou de gruyère": de nombreux utilisateurs ont ainsi testé des requêtes aux résultats improbables.
Alerté par les moqueries sur les réseaux sociaux, les promoteurs du projet ont décidé au bout de trois jours de fermer son accès à tous en ligne, a expliqué dimanche 26 janvier à l'AFP Michel-Marie Maudet, le directeur général de Linagora, l'entreprise derrière Lucie.
Pas de "garde-fous"
La plateforme, lauréate du programme France 2030 lancé par l’État, ambitionne de fournir une alternative "transparente et fiable" aux IA comme ChatGPT, et pourrait par exemple servir pour l'éducation ou la recherche. Mais "nous avons fait l'erreur de mettre à disposition (Lucie) dans l'état", sans préciser suffisamment qu'il ne s'agissait pas d'un robot prêt à l'emploi, mais d'un "projet de recherche", a-t-il reconnu. D'autre part, "tous les systèmes d'intelligence artificielle disposent de garde-fou", qui les empêchent de produire des textes haineux ou injurieux, a-t-il souligné. "Notre deuxième erreur a été de mettre à disposition Lucie sans ces garde-fous".
Un modèle à développer
Le dirigeant explique avoir voulu mettre en ligne Lucie avant le sommet international de Paris sur l'IA du 10 et 11 février et qu'il n'avait "pas du tout anticipé cet emballement", car Linagora "travaille dans le logiciel libre où les communautés font en général preuve de bienveillance et d'encouragements". Ce raté au démarrage n'empêche pas les promoteurs de Lucie d'espérer remettre prochainement en ligne Lucie, après l'avoir fait évoluer, pour offrir à tous "un modèle de langage d'intérêt général".
Contrairement aux géants de la tech comme ChatGPT, Lucie, qui "n'a pas d'ambition économique", promet la transparence sur les données qui servent à l'entraîner, a expliqué Michel-Marie Maudet. Ce qui permettra par exemple de s'assurer que les réponses sont issues de données scientifiques vérifiées. Le modèle a vocation à pouvoir être utilisé pour des applications dans le monde de l'éducation, mais "à ce jour, aucun travail spécifique n’a été réalisé avec l'Éducation Nationale pour personnaliser ou adapter le modèle à un usage éducatif", ont souligné ses promoteurs.
21 commentaires
Vous devez être membre pour ajouter un commentaire.
Vous êtes déjà membre ? Connectez-vous
Pas encore membre ? Devenez membre gratuitement
Signaler le commentaire
Fermer