Œufs de vache, erreurs de calcul... Les concepteurs de Lucie, une IA française destinée à l’éducation, ferment en catastrophe leur plateforme
Lucie a été réduite au silence ce samedi 25 janvier, en catastrophe, après avoir été la risée d’Internet pendant quelques heures. Ce robot conversationnel dont les réponses sont générées par l’intelligence artificielle (sur le modèle de ChatGPT de l’américain OpenAI) aurait dû être une fierté française : développé par l’éditeur français de logiciels libres Linagora, Lucie est désormais un projet financé par le gouvernement dans le cadre du plan d’investissement France 2030, dont Linagora a remporté l’un des appels d’offres. Mais sa mise en ligne, sous forme de version d’essai pour faire découvrir Lucie aux internautes, a finalement été jugée «prématurée» par Linagora, qui s’est fendu d’un communiqué samedi soir pour répondre aux critiques narquoises des internautes qui ont relevé de nombreuses failles dans les réponses de Lucie.
Afin d’éviter «toute polémique inutile», les concepteurs de Lucie ont tenu à rappeler que pour l’heure, leur créature n’est qu’un «projet de recherche académique visant à démontrer les capacités à développer des communs numériques d’IA générative». «Conscients que la phase d’instruction n’était que partielle, nous avons pensé, à tort, qu’une mise en ligne de la plateforme lucie.chat était néanmoins possible», poursuit Linagora, qui explique que le déploiement de cette version test visait aussi à enrichir Lucie par la «collecte de données d’instruction», expliquant que contrairement aux acteurs de la Big Tech qui travaillent sur des robots anglophones, Lucie est plus limitée car elle n’a accès qu’à des données en français et open source.
«Nous savons bien entendu que les capacités de raisonnement de Lucie sont insatisfaisantes. Nous aurions dû informer les utilisateurs de la plateforme de ces limites, de manière à ne pas créer d’attente inutile», s’excusent les concepteurs, expliquant (dans un français douteux, qui laisse imaginer la précipitation dans laquelle le communiqué a été rédigé) : «nous avons était emporté par notre propre enthousiasme» (sic). Pour l’heure, donc, l’accès à la plateforme de discussion, qui avait été ouvert à tous les internautes, a été suspendu et il est seulement possible de s’inscrire pour tester Lucie plus tard.
Une IA destinée à l’éducation
Lorsque les internautes français ont commencé à s’emparer de Lucie pour l’essayer, de nombreuses erreurs ou bévues grossières ont en effet été relevées : Lucie répondait n’importe quoi à des calculs très simples avec uniquement des additions et des multiplications, répondait très sérieusement «environ 10 à 20 grammes» à une internaute qui lui demandait le poids des trous dans un gruyère, expliquait méthodiquement ce que sont des œufs de vache et quelles sont leurs qualités gustatives, ou se mettait à parler comme Adolf Hitler si on le lui demandait gentiment. Il n’en fallait pas plus pour susciter les moqueries des internautes : «Donald et les US ont du souci à se faire», ironisait l’un, quand un autre relevait que Lucie n’avait même pas le niveau des premières versions de ChatGPT, aux tout débuts de l’IA générative.
À lire aussi ChatGPT : la maison mère, OpenAI, poursuit sa transformation en une société à but lucratif
Les erreurs et les gaffes de Lucie ont été jugées d’autant plus sévèrement qu’une confusion est possible sur le cadre dans lequel Lucie a vocation à être déployée. En effet, sur X, Lucie a été promue par le compte «éduscol Lettres», géré par le ministère de l’Éducation nationale : «L’accès à la première version de Lucie est ouvert au public. Cette IA open source développée par Linagora et OpenLLM France devrait être adaptée pour le monde de l’éducation courant 2025», écrivait le ministère. Les faiblesses de Lucie ont paru soudain d’autant plus préoccupantes que l’IA semblait donc avoir vocation à discuter avec tous les élèves de France d’ici quelques mois.
En réalité, Lucie est effectivement le fruit d’un effort commun de plusieurs acteurs, y compris publics (comme le CNRS) rassemblés au sein d’un consortium d’acteurs de la tech française, OpenLLM France, qui s’investissent dans le développement de projets innovants respectant le cadre réglementaire français et européen, et attachés à la souveraineté et à la transparence de leurs algorithmes. Par ailleurs, dans le cadre du financement alloué à ce projet d’IA au sein du plan France 2030, l’adaptation de Lucie à des fonctions éducatives est bien une consigne du gouvernement. Toutefois, pour l’heure, les développeurs de Lucie précisent que l’Éducation nationale n’est pas encore partie prenante du projet, même si Linagora a pour consigne de se concentrer sur «des cas d’usage liés au domaine de l’éducation».
Le prénom Lucie a été choisi en clin d’œil à «Lucy», nom donné à l’australopithèque vieux de trois millions d’années retrouvé à l’état de fossiles en Éthiopie et considéré comme le plus vieil ancêtre connu de l’humanité. Ainsi qu’à Lucy Miller, personnage du film éponyme de Luc Besson joué par Scarlett Johansson qui développe des capacités cognitives hors du commun.