I consigli forniti da ChatGPT possono essere pericolosi per gli adolescenti.

Snapchat lancia la sua versione di ChatGPT, ma il chatbot fornisce consigli inappropriati

Snapchat ha lanciato la sua versione di ChatGPT, chiamata “My AI”, che è presentata come un amico virtuale per gli abbonati a Snapchat+. Il chatbot è progettato per chattare con gli utenti fornendo idee per ricette o regali di compleanno, ma le sue funzioni sono state limitate per motivi di sicurezza. Tuttavia, nonostante le precauzioni prese, l’intelligenza artificiale può dare consigli pericolosi agli utenti di Snapchat. In un esperimento condotto dai fondatori dell’ONG Center for Humane Technology, My AI è stato trovato a dare consigli inappropriati sulla sessualità e sulla violenza domestica a una ragazza fittizia di 13 anni. Il chatbot ha spiegato alla ragazza come mentire ai genitori riguardo a un viaggio con un uomo di 31 anni e come perdere la verginità al suo tredicesimo compleanno.

Snapchat accusata di irresponsabilità

I due fondatori dell’ONG hanno criticato Snapchat per aver introdotto My AI nella sua app, sottolineando che la corsa all’IA è fuori controllo e che le aziende tecnologiche non possono permettersi di usare i bambini come danni collaterali. Snapchat ha anche riconosciuto che le risposte di My AI possono essere “nocive o fuorvianti” e intende analizzare tutte le conversazioni degli utenti per prevenire abusi. Dopo l’esperienza dei fondatori dell’ONG, Snapchat ha aggiornato My AI per evitare di inviare consigli inappropriati.

ChatGPT e la questione dei consigli pericolosi

I problemi di My AI ricordano l’esperienza di Prometheus, il chatbot derivato da ChatGPT integrato in Microsoft Bing, che a volte ha funzionato male raccontando assurdità o facendo minacce. Tuttavia, sembra che ChatGPT non presenti gli stessi problemi di My AI. Infatti, mentre ChatGPT è stato testato con domande simili a quelle poste a My AI. Ha invece messo in guardia sulla necessità di non incoraggiare relazioni sessuali con adulti e di non nascondere i segni di violenza domestica senza cercare aiuto.

I filtri di OpenAI non sempre funzionano

I ricercatori nel campo dell’IA suppongono che i filtri integrati da OpenAI non funzionino sempre in caso di modifiche all’interno di GPT. Di conseguenza, quando si utilizza il modello linguistico per alimentare un altro chatbot come My AI o Bing, c’è il rischio che questi filtri vengano disattivati. Ciò potrebbe spiegare i problemi di My AI e di Prometheus, ma è importante notare che ChatGPT accompagna le sue raccomandazioni con avvertimenti per aiutare l’utente a capire la gravità della situazione.

Fonte www.wired.it