Il Diritto all’Spiegazione delle Decisioni Automatiche

La moltiplicazione dei processi automatizzati di decisione non esime le organizzazioni dalla loro obbligazione di spiegare, in modo comprensibile per tutti, le azioni affidate agli algoritmi. La Corte di Giustizia dell’UE ha appena affermato questo diritto.

L’intelligenza artificiale (IA) si inserisce sempre di più nella nostra vita quotidiana e professionale. Le aziende, e persino alcune amministrazioni, utilizzano ormai l’IA per raccogliere dati e formulare analisi a partire da essi. In alcuni casi, questo arriva a trasferire a questi programmi azioni che possono avere un effetto nella vita reale. Al rischio di somigliare a “scatole nere” che agiscono per conto proprio.

Non è ovviamente soddisfacente per la persona che subisce una decisione presa da una tale macchina sentire come unica spiegazione che si tratta della scelta di un computer. La Corte di Giustizia dell’Unione europea, che si riunisce a Lussemburgo, ha emesso il 27 febbraio 2025 una sentenza: un individuo ha il diritto di ricevere spiegazioni su come è stata presa la decisione che lo riguarda, anche se si tratta di un meccanismo automatizzato.

Una cittadina austriaca ha visto rifiutata la firma di un contratto di telefonia mobile perché giudicata insufficiente in termini di solvibilità. Questa valutazione era stata condotta da un modello matematico che determina il fattore di rischio finanziario. Per informazione, qui si trattava di un abbonamento mensile di 10 euro. Ma questa somma non è in discussione.

Il tribunale austriaco, inizialmente interpellato, ha concluso che, a causa delle sue metodologie, il fornitore (la società Dun & Bradstreet) aveva violato il Regolamento Generale sulla Protezione dei Dati (RGPD). La Corte di Giustizia dell’UE è stata quindi sollecitata a interpretare il RGPD e la Direttiva europea sul Diritto delle Imprese nel caso in cui siano gli algoritmi a trattare i fascicoli.

La Corte stabilisce che il responsabile del trattamento deve descrivere la procedura e i principi concretamente applicati. Così facendo, la persona interessata deve poter comprendere quali dei propri dati personali sono stati utilizzati e in quale modo durante la decisione automatizzata.

Ciò che è interessante (benvenuti in Europa!), è che i magistrati che richiedono la trasmissione delle informazioni “utili” che hanno portato alla decisione considerano che le diverse accezioni linguistiche di questo aggettivo “utile” devono essere tenute in conto.

Di conseguenza, le spiegazioni fornite devono essere “utili” (nel senso francese, olandese e portoghese del termine), “pertinenti” (nel senso romeno), “importanti” (nel senso spagnolo e polacco) e “intelligibili” (nel senso inglese e tedesco). In sintesi, la Corte richiede agli operatori di essere il più pedagogici possibile negli elementi che forniranno alle persone richiedenti.

La scoperta da parte del grande pubblico dell’intelligenza artificiale risale alla fine del 2022, con l’entrata in funzione di ChatGPT. È quindi importante, su scala europea, che sia chiaramente stabilito il fatto che i cittadini, i consumatori e anche i lavoratori che siamo possano essere informati sull’uso che viene fatto dei nostri dati per generare modelli algoritmici, modelli che contribuiranno sempre di più a decisioni che avranno un effetto molto diretto sulle nostre esistenze.

Ancora una volta, non si tratta di trasformare ognuno in ingegnere di IA, ma di elevare il livello collettivo di conoscenze sui meccanismi e le informazioni che alimentano e strutturano questi servizi automatizzati. E di rendere accessibili e comprensibili tecnologie, certamente complesse, ma che andranno a popolare e agire sulla nostra quotidianità. Ciò corrisponde inoltre all’obbligo posto da un altro testo europeo, l’AI Act, di regolare il modo in cui si spiegano i modelli utilizzati.

Nel caso in cui le informazioni da fornire siano protette ai sensi del segreto commerciale, in particolare perché potrebbero contenere, ad esempio, elementi considerati determinanti per la competitività dell’azienda, sarà un’autorità nazionale a stabilire l’estensione del diritto di accesso. Sempre l’equilibrio ricercato tra l’esercizio di diversi diritti: quello degli individui e quello delle organizzazioni.