Uova di vacca e calcoli sbagliati: il tracollo della piattaforma educativa Lucie

Lucia: L’IA open source di Linagora

L’editore di software libero francese Linagora, che sviluppa un’IA generativa open source, chiamata Lucie, nell’ambito di una partnership governativa con il piano d’investimento Francia 2030, ha espresso rammarico per la «messa online prematura» del suo modello di IA dopo numerosi errori riscontrati dagli utenti.

Lucie è stata silenziata sabato 25 gennaio, in modo drammatico, dopo essere stata derisa da Internet per alcune ore. Questo robot conversazionale, le cui risposte sono generate dall’intelligenza artificiale (sull’esempio di abbonamento chat gpt dell’americana OpenAI), avrebbe dovuto essere un vanto francese: sviluppata dall’editore francese di software libero Linagora, Lucie è ora un progetto finanziato dal governo nell’ambito del piano di investimento Francia 2030, di cui Linagora ha vinto uno degli appalti. Ma il suo lancio, sotto forma di versione di prova per presentare Lucie agli utenti, è stato infine giudicato «prematuro» da Linagora, che ha emesso un comunicato sabato sera per rispondere alle critiche sarcastiche degli utenti che hanno evidenziato numerosi difetti nelle risposte di Lucie.

Per evitare «qualsiasi polemica inutile», i progettisti di Lucie hanno voluto sottolineare che per il momento, la loro creatura non è altro che un «progetto di ricerca accademica finalizzato a dimostrare le capacità di sviluppare beni comuni digitali di IA generativa». «Consapevoli che la fase di addestramento non era che parziale, abbiamo pensato, a torto, che fosse possibile comunque lanciare la piattaforma lucie.chat », continuano Linagora, che spiega che il lancio di questa versione di prova mirava anche ad arricchire Lucie attraverso la «raccolta di dati di addestramento», specificando che, a differenza degli attori della Big Tech che lavorano su robot anglofoni, Lucie è più limitata perché ha accesso solo a dati in francese e open source.

«Siamo consapevoli che le capacità di ragionamento di Lucie sono insoddisfacenti. Avremmo dovuto informare gli utenti della piattaforma su questi limiti, in modo da non creare aspettative inutili», si scusano i progettisti, spiegando (in un francese incerto, che fa immaginare la fretta con cui è stato redatto il comunicato): «siamo stati portati via dal nostro stesso entusiasmo» (sic). Per il momento, quindi, l’accesso alla piattaforma di discussione, che era stato aperto a tutti gli utenti, è stato sospeso e è possibile solo registrarsi per provare Lucie in un secondo momento.

Un’IA destinata all’educazione

Quando gli utenti francesi hanno cominciato a cimentarsi con Lucie per provarla, sono emersi numerosi errori o sciocchezze grossolane: Lucie rispondeva a qualsiasi domanda riguardante semplici calcoli aritmetici, rispondeva molto seriamente «circa 10-20 grammi» a un utente che chiedeva il peso dei buchi in un formaggio svizzero, spiegava metodicamente cosa sono le uova di mucca e quali sono le loro qualità gustative, o iniziava a parlare come Adolf Hitler se gli veniva chiesto gentilmente. Non serviva altro per suscitare le derisioni degli utenti: «Donald e gli USA hanno di che preoccuparsi», ha ironizzato uno, mentre un altro ha osservato che Lucie non raggiungeva nemmeno il livello delle prime versioni di ChatGPT, agli albori dell’IA generativa.

Gli errori e le gaffe di Lucie sono stati giudicati ancor più severamente poiché è possibile confondere il contesto in cui Lucie è destinata ad essere utilizzata. Infatti, su X, Lucie è stata promossa dall’account «éduscol Lettres», gestito dal ministero dell’Istruzione nazionale: «L’accesso alla prima versione di Lucie è aperto al pubblico. Questa IA open source sviluppata da Linagora e OpenLLM France dovrebbe essere adattata per il mondo dell’educazione nel 2025», scriveva il ministero. Le debolezze di Lucie sono apparse improvvisamente tanto più preoccupanti dato che l’IA sembrava quindi destinata a interagire con tutti gli studenti di Francia entro pochi mesi.

In realtà, Lucie è effettivamente il frutto di uno sforzo comune di diversi attori, compresi pubblici (come il CNRS) riuniti all’interno di un consorzio di attori della tech francese, OpenLLM France, che si impegnano nello sviluppo di progetti innovativi in conformità con il quadro normativo francese ed europeo, e che sono attenti alla sovranità e alla trasparenza dei loro algoritmi. Inoltre, nell’ambito del finanziamento assegnato a questo progetto di IA all’interno del piano Francia 2030, l’adattamento di Lucie a funzioni educative è effettivamente un’istruzione del governo. Tuttavia, per il momento, i sviluppatori di Lucie specificano che il Ministero dell’Istruzione nazionale non è ancora parte integrante del progetto, sebbene Linagora abbia l’istruzione di concentrarsi su «casi d’uso legati al campo dell’educazione».

Il nome Lucie è stato scelto in omaggio a «Lucy», il nome dato all’australopiteco di tre milioni di anni scoperto in forma di fossile in Etiopia e considerato il più antico antenato conosciuto dell’umanità. Così come a Lucy Miller, personaggio dell’omonimo film di Luc Besson interpretato da Scarlett Johansson, che sviluppa capacità cognitive fuori dal comune.

Fonte: www.lefigaro.fr