Il consigliere comunale che ha pagato il prezzo della sua fiducia in ChatGPT.

Un consigliere comunale redige un decreto con ChatGPT

Un consigliere comunale della città di Porto Alegre, in Brasile, ha deciso di redigere una proposta di legge utilizzando ChatGPT. Ciò non ha mancato di suscitare reazioni, e non a caso: ha fatto approvare il suo testo senza che i suoi colleghi sospettassero nulla.

È un fatto che negli ultimi mesi probabilmente hai letto regolarmente contenuti redatti, almeno in parte, da un’intelligenza artificiale senza saperlo. Se il testo grezzo che esce da ChatGPT è spesso poco utilizzabile come tale, talvolta è sufficiente modificarlo correttamente affinché faccia illusion.

È sostanzialmente questo che Ramiro Rosario ha voluto dimostrare ai suoi colleghi. Questo consigliere comunale della città di Porto Alegre, in Brasile, ha recentemente presentato una proposta di legge volta a impedire alla città di addebitare ai contribuenti la sostituzione dei contatori di consumo dell’acqua quando questi vengono rubati. Questo decreto è stato adottato con grande facilità dai 36 rappresentanti del consiglio comunale lo scorso ottobre.

Rivelazione scioccante

È solo all’inizio di questo novembre che Ramiro Rosario ha rivelato il trucco ai suoi colleghi: questo testo, che hanno adottato senza difficoltà, è stato integralmente redatto da ChatGPT. Il consigliere comunale ha addirittura spiegato all’Associated Press che non ha apportato “alcuna modifica” al testo proposto dall’intelligenza artificiale.

“Se l’avessi detto prima, la proposta non sarebbe stata nemmeno sottoposta a votazione”, ha stimato. “Sarebbe ingiusto per la popolazione correre il rischio che il progetto non venga approvato semplicemente perché è stato scritto dall’intelligenza artificiale”.

Reazioni sorprendenti

Quando ha scoperto la situazione, Hamilton Sossmeier, il presidente del consiglio comunale di Porto Alegre, è rimasto inizialmente scioccato. Ha dichiarato ai media locali che per lui si trattava di un “pericoloso precedente”. Ma ha cambiato idea dopo alcuni giorni: “Ho cambiato idea”, ha dichiarato all’Associated Press. “Ho iniziato a informarmi più a fondo e ho visto che, sfortunatamente o fortunatamente, sta diventando una tendenza”.

Usare ChatGPT in questo modo, è giocare con il fuoco?

Nel caso di Ramiro Rosario e della città di Porto Alegre, sembra che l’impiego di ChatGPT nella stesura di una legge sia alla fine passato piuttosto bene. Ma non è sempre così: casi precedenti hanno già dimostrato che un uso improprio dell’intelligenza artificiale di OpenAI può avere conseguenze gravi su situazioni e persone. Ricordiamo la storia di quell’avvocato che ha utilizzato ChatGPT per risparmiare tempo in una causa e ha completamente sabotato il suo caso… e la sua credibilità.

“Forse non è sempre possibile tenere conto delle sfumature e delle complessità della legge. Dato che ChatGPT è un sistema di apprendimento automatico, potrebbe non avere lo stesso livello di comprensione e giudizio di un avvocato umano quando si tratta di interpretare i principi giuridici e il precedente. Ciò potrebbe portare a problemi in situazioni in cui è necessaria un’analisi legale più approfondita”, ritiene Andrew Perlman, decano della facoltà di giurisprudenza dell’Università di Suffolk. Per lui, ChatGPT potrebbe benissimo “presagire un cambiamento ancora più significativo dell’avvento di Internet”, a condizione che sia effettivamente controllato dalle persone che lo utilizzano. Alla fine è sempre la stessa storia fin dai tempi di Rabelais: la scienza senza coscienza è solo rovina dell’anima.