Compagni virtuali vietati agli adolescenti: la svolta restrittiva
Compagni virtuali vietati agli adolescenti: la svolta restrittiva Stop ai minori su Character.AI: la piattaforma IA blocca gli under 18 dopo accuse e pressioni regolatorie.
Stop ai minori su Character.AI: la piattaforma IA blocca gli under 18 dopo accuse e pressioni regolatorie.
LOS ANGELES - Character.AI bloccherà dal 25 novembre l'accesso degli utenti minori di 18 anni. Lo rende noto la stessa start-up californiana specializzata nella creazione di compagni virtuali creati con l'IA, diventata molto popolare tra i giovani e accusata in Usa del suicidio di un 14enne.
"Stiamo apportando queste modifiche alla luce del panorama in evoluzione dell'intelligenza artificiale e degli adolescenti - scrive la società -. Recenti notizie hanno sollevato diversi interrogativi e abbiamo ricevuto richieste dalle autorità di regolamentazione sui contenuti in cui si imbattono gli adolescenti quando chattano con l'IA e su come questo può influenzarli, anche quando i controlli funzionano perfettamente".
Character.AI è stata lanciata nel maggio 2023 ed è diventata subito popolare tra i teenager. Permette di creare con l'IA degli amici virtuali personalizzati oppure replicare la personalità di una celebrità. Ha suscitato a più riprese la reazione di diversi esperti preoccupati per l'attaccamento a volte irrazionale dei ragazzi al chatbot e anche alla natura delle interazioni. Un anno fa negli Stati Uniti la società è stata portata in tribunale dalla mamma di un 14enne che si è suicidato, con l'accusa di aver favorito una dipendenza emotiva del ragazzo al chatbot creato.
Casi simili sono stati segnalati anche su altre piattaforme come ChatGpt che di recente ha introdotto dei paletti per gli utenti più giovani e sta lavorando ad un sistema di verifica dell'età. Pochi giorni fa la stessa OpenAI, la casa madre di ChatGpt, ha reso pubblici alcuni dati interni secondo cui oltre un milione di conversazioni settimanali sulla piattaforma contengono riferimenti espliciti a pensieri suicidi, depressione o disturbi psicologici acuti.
Su alcuni temi riceviamo purtroppo con frequenza messaggi contenenti insulti e incitamento all'odio e, nonostante i nostri sforzi, non riusciamo a garantire un dialogo costruttivo. Per le stesse ragioni, disattiviamo i commenti anche negli articoli dedicati a decessi, crimini, processi e incidenti.
Il confronto con i nostri lettori rimane per noi fondamentale: è una parte centrale della nostra piattaforma. Per questo ci impegniamo a mantenere aperta la discussione ogni volta che è possibile.
Dipende anche da voi: con interventi rispettosi, costruttivi e cortesi, potete contribuire a mantenere un dialogo aperto, civile e utile per tutti. Non vediamo l'ora di ritrovarvi nella prossima sezione commenti!