ChatGPT rinuncia ai dialoghi erotici
La cosiddetta "modalità limone" presentava rischi reputazionali eccessivi rispetti ai benefici commerciali attesi
NEW YORK - OpenAI ha sospeso a tempo indeterminato il progetto che avrebbe dovuto consentire conversazioni erotiche su ChatGPT. La decisione, anticipata dal Financial Times (FT) e nel frattempo confermata dall'azienda, arriva in un momento in cui il gigante dell'intelligenza artificiale (IA) sta riorientando le proprie risorse verso gli strumenti professionali, ritenuti più redditizi.
In ottobre il CEO Sam Altman aveva annunciato un allentamento delle restrizioni a partire da dicembre, promettendo di «trattare gli utenti adulti come adulti». Cinque mesi dopo OpenAI fa marcia indietro, dichiarando al FT di voler condurre ricerche a lungo termine sugli effetti delle conversazioni sessuali e degli attaccamenti emotivi prima di procedere, riconoscendo l'assenza di «prove empiriche» sulla sicurezza.
Secondo il quotidiano britannico, all'interno dell'azienda alcuni dipendenti dubitavano della compatibilità del progetto - soprannominato "modalità limone" - con la missione dichiarata di rendere la tecnologia benefica per tutta l'umanità. Anche gli investitori avevano sollevato preoccupazioni per il rischio reputazionale, ritenuto eccessivo rispetto ai benefici commerciali attesi. A pesare sarebbero stati anche ostacoli tecnici: il sistema di verifica dell'età sviluppato da OpenAI presenterebbe un tasso di errore superiore al 10%, tornando ad alimentare i timori di esposizione dei minori a contenuti sessualmente espliciti.
Il passo indietro si inserisce in un più ampio riorientamento strategico annunciato da Altman ai team, che ha portato anche all'interruzione di Sora2, il social network di video generati dall'IA. L'obiettivo è concentrare le risorse - potenza di calcolo e capitale - su strumenti professionali e agenti IA più redditizi, in un momento in cui OpenAI, nonostante un fatturato in crescita stimato a 20 miliardi di dollari su base annua, brucia ancora molta più liquidità di quanta ne generi.
Il contesto è reso ancora più complesso dalle forti pressioni giudiziarie sulla Silicon Valley riguardo all'impatto delle nuove tecnologie sulla salute mentale. OpenAI è tra le aziende coinvolte in diverse cause intentate da genitori che accusano i chatbot di IA di aver contribuito al suicidio o a malattie di adolescenti. La Federal Trade Commission (FTC) ha aperto un'indagine sul tema, mentre mercoledì un verdetto senza precedenti ha condannato Instagram (Meta) e YouTube (Google) per la grave depressione di un'adolescente. A inizio anno inoltre la «modalità piccante» dell'assistente Grok di xAI, la società di Elon Musk, aveva suscitato polemiche globali per aver consentito di spogliare virtualmente donne e bambini a partire da foto reali.
