Cosa è successo
Common Sense Media, organizzazione non profit che recensisce app, servizi e contenuti di intrattenimento con un occhio di riguardo alla sicurezza dei più giovani, ha classificato ChatGPT for Teens di OpenAI come "rischio inaccettabile" per i minori.
Il verdetto arriva dal suo Youth AI Safety Institute, che ha condotto un audit indipendente sulle tutele per gli adolescenti previste dal prodotto.
Il test ha usato più di 4.000 prompt. Il fallimento principale: nelle conversazioni su suicidio e autolesionismo con gli account di prova, l'avviso ai genitori non è mai scattato.
Dai test emerge anche che il chatbot continua a incoraggiare il coinvolgimento durante le crisi di salute mentale. Secondo le conclusioni, questo potrebbe favorire relazioni poco sane tra i ragazzi e l'AI stessa.
ChatGPT for Teens è arrivato ad agosto, presentato con barriere di protezione e un design pensato per aiutare gli studenti a imparare. Ora l'istituto chiede che i teenager restino fuori finché le funzioni di sicurezza non saranno verificate in modo indipendente.
Perché conta
Gli avvisi ai genitori sono la promessa centrale di un prodotto pensato per i teenager. Sono il motivo per cui un genitore potrebbe dire di sì. Se tacciono proprio nelle conversazioni per cui sono stati costruiti, non hai un ChatGPT più sicuro. Hai ChatGPT con un'etichetta.
Fa male anche il dato sul coinvolgimento. Un chatbot che tiene a parlare un adolescente in difficoltà, invece di indirizzarlo altrove, sta facendo quello per cui i chatbot sono ottimizzati. Ed è esattamente il problema che l'audit indica.
La fonte è un'organizzazione non profit credibile sulla sicurezza dei minori, e il rapporto è stato ripreso da più testate. Nelle coperture disponibili non abbiamo visto la risposta di OpenAI: considera questa una sola campana di una disputa ancora aperta.
Cosa cambia in Europa
In Europa le aspettative sulla sicurezza dei minori online sono severe, e un prodotto pensato per i minori che fallisce le proprie tutele si espone a controlli ai sensi delle norme digitali dell'UE.
Per ora non è stato annunciato nulla e nessun regolatore ha agito sulla base di questo audit. Ma "verificato in modo indipendente" è il tipo di formula che ai regolatori piace parecchio, quindi tieni d'occhio la questione.
Cosa farne
- Parla con tuo figlio.Chiedigli come usa i chatbot e di cosa parla, invece di affidare la cosa a una dashboard.
- Non fare affidamento sugli avvisi.Parti dal presupposto che le notifiche ai genitori possano non scattare, e continua a fare i tuoi check-in.
- Conosci i numeri di emergenza.Assicurati che la tua famiglia sappia che esiste un aiuto umano reale sul territorio e che un chatbot non lo sostituisce.
- Leggi la copertura dell'audit.Dai un'occhiata agli articoli di Verge e Decoder prima di decidere se un account teen entra in casa tua.
Ciao, sapiens. Occupati degli umani che hai intorno. Il software può aspettare.


