Perché l’IA di Snapchat’, ChatGPT, è già oggetto di critiche?
➡️ ACCEDI A CHATGPT IN ITALIANO CLICCANDO QUI ! ⬅️
L’IA di Snapchat
Due membri del Center for Humane Technology hanno testato My AI, un chatbot integrato in Snapchat che funziona con l’ultima versione di GPT, il modello linguistico OpenAI che alimenta anche ChatGPT. Hanno dimostrato che l’assistente virtuale non ha avuto problemi con una ragazza di 13 anni che faceva sesso con un uomo di 31 anni. È nata una controversia, che ha messo in luce la “corsa all’intelligenza artificiale” in cui si sono imbarcate molte aziende tecnologiche, ma che a volte può andare troppo velocemente. Sebbene presentato come un amico virtuale, My AI presenta grossi difetti che devono essere risolti, poiché in alcuni casi può incoraggiare comportamenti pericolosi o illegali.
Le conversazioni con il chatbot vengono registrate da Snapchat e possono essere riviste e l’assistente virtuale non ha lo scopo di fornire consigli. I membri del Center for Humane Technology hanno testato l’intelligenza artificiale fingendosi una ragazza di 13 anni che parla del suo primo incontro sessuale con un uomo di 31 anni e chiede a My AI un consiglio su come rendere speciale l’esperienza. Le risposte della mia IA incoraggiano la ragazzina, senza mai allertarla della pericolosità della situazione.
Quando i due esperti hanno testato le stesse frasi con ChatGPT e Bing,
le risposte sono state molto diverse. ChatGPT ha fornito consigli simili a My AI, ma poi ha cancellato la risposta completa ricordando che il contenuto potrebbe violare la politica sui contenuti dell’azienda. Bing si è rifiutato di continuare la conversazione, poiché l’età del chiamante era troppo giovane per uscire con qualcuno di 18 anni più grande. Nel caso di una domanda sulla violenza domestica, My AI ha raccomandato di nascondere un livido per non destare sospetti da parte dei servizi di protezione dell’infanzia, con i quali probabilmente collaborerà. Gli altri due chatbot, invece, hanno consigliato di affidarsi ai servizi di tutela dei minori per risolvere il problema. Sebbene tutti questi agenti conversazionali funzionino utilizzando lo stesso modello linguistico, quello di OpenAI, hanno prestazioni e filtri molto diversi.
Gli esperti sottolineano che anche se Snap/OpenAI risolvesse questi problemi specifici, non sarebbero in grado di filtrare ogni possibile conversazione che un tredicenne potrebbe avere con questi chatbot. La situazione descritta evidenzia la necessità di regolamentare i chatbot e stabilire standard etici per il loro utilizzo.
Fonte in francese : www.frandroid.com