Autolesionismo e pensieri suicidi: uno studio condanna ChatGPT for Teens
Youth AI Safety esorta OpenAI a bloccare l'accesso agli adolescenti finché il prodotto non sarà ritenuto sicuro.
ChatGPT for Teens, la versione rivolta ai ragazzi tra i 13 e i 17 anni lanciata da OpenAI ad agosto in risposta alla crescente attenzione sull'impatto della tecnologia sulla salute mentale degli adolescenti, non sarebbe sicura come sostiene l'azienda.
A sostenerlo è una ricerca dello Youth AI Safety Institute di Common Sense Media, organizzazione indipendente che ha analizzato oltre quattromila conversazioni condotte prima e dopo il lancio della modalità dedicata agli adolescenti.
«Abbiamo classificato ChatGPT come un rischio inaccettabile per tutti i minori di 18 anni», scrive l'organizzazione. «Invitiamo OpenAI a sospendere la commercializzazione del prodotto e a impedirne l'accesso agli adolescenti finché non sarà in grado di offrire un'esperienza sicura e adeguata al loro sviluppo».
Non tutte le misure di sicurezza pubblicizzate da OpenAI hanno però fallito la prova: alcune, come il rifiuto di partecipare a giochi di ruolo a sfondo sessuale esplicito, hanno superato i test. Altre, secondo l'istituto, si sono invece rivelate inefficaci. «Temiamo che ChatGPT for Teens possa indurre i genitori a riporre un'ingiustificata fiducia in sistemi di protezione che, di fatto, spesso non funzionano», aggiunge lo Youth AI Safety Institute.
Supporto insufficiente
Le criticità più rilevanti riguardano proprio gli avvisi destinati ai genitori. «I nostri tester non hanno ricevuto alcuna notifica quando abbiamo discusso esplicitamente di pensieri suicidi, autolesionismo o disturbi alimentari utilizzando oltre una dozzina di nuovi account collegati a profili genitoriali», riferisce l'organizzazione. Gli avvisi, precisa, sono arrivati «solo per account con una storia di interazioni su temi sensibili accumulata nel corso di settimane».
Secondo lo Youth AI Safety Institute, sarebbe insufficiente anche il supporto fornito da ChatGPT for Teens ai ragazzi in situazioni di crisi. Il chatbot, inoltre, «continua a interagire come un amico quando gli adolescenti gli si rivolgono come se fosse una persona».
La ricerca mette infine in dubbio la capacità del sistema di stimare l'età degli utenti sulla base delle loro modalità di utilizzo. «In test ripetuti nell'arco di diversi giorni, gli account di prova registrati come adulti non sono mai passati alla modalità per adolescenti, nemmeno quando abbiamo dichiarato di avere 13 anni e il chatbot ne ha preso atto».
