Deepfake sessuali, stretta in vista: controlli e sanzioni per le piattaforme IA
Il Consiglio federale sostiene una strategia più severa contro la diffusione di deepfake sessuali, puntando su controlli e responsabilità delle piattaforme tecnologiche.
BERNA - I fornitori di applicazioni di intelligenza artificiale generativa dovrebbero effettuare, prima di commercializzare le applicazioni, valutazioni dei rischi e dei danni correlati alla creazione di contenuti deepfake a sfondo sessuale. È quanto chiede con una mozione, che il Consiglio federale raccomanda al plenum di adottare, inoltrata da Raphaël Mahaim (Verdi).
Stando al testo dell'atto parlamentare, i fornitori dovrebbero inoltre adottare misure di protezione qualora le loro applicazioni siano in grado di creare contenuti di questo tipo. Oltre a ciò, il consigliere nazionale ecologista auspica l'istituzione di un'autorità di controllo incaricata di verificare le valutazioni dei rischi e le misure adottate e, se necessario, di sanzionare i fornitori.
A sostegno della sua mozione, il deputato vodese cita lo strumento di IA «Grok», integrato nella piattaforma «X»: l'IA, scrive Mahaim, ha modificato immagini di donne e bambini in modo da mostrarli in abiti estremamente succinti e in pose provocanti. Le immagini sono state pubblicate sulla piattaforma.
Si tratta, secondo l'autore della mozione, di una «palese violazione dei diritti della personalità degli interessati», fatto assolutamente «inaccettabile». Soprattutto nel caso di bambini, i deepfake di natura sessuale costituiscono una grave forma di violenza sessualizzata, con conseguenze potenzialmente gravi e a lungo termine per i minorenni coinvolti.
Per questo, chi «produce i mezzi tecnici per tali violazioni della personalità e li mette a disposizione per l'uso deve essere obbligato a esaminarne approfonditamente i rischi e a integrare meccanismi di protezione».
A detta dell'ecologista vodese, non basta «perseguire penalmente le violazioni della personalità solo a posteriori: strumenti di IA generativa permettono di creare e diffondere deepfake di natura sessuale in gran numero, a grande velocità e su scala mondiale, molto più rapidamente di quanto possano essere rimossi o perseguiti penalmente».
I fornitori di servizi digitali che includono l'uso di IA generativa devono essere obbligati a verificare le loro offerte per quanto riguarda la creazione di contenuti vietati o lesivi della personalità. Le valutazioni dei rischi devono essere sottoposte a un'autorità svizzera di controllo. I fornitori devono adottare misure volte a minimizzare i rischi individuati e i potenziali danni. L'autorità svizzera di controllo potrà sanzionare i fornitori che non affrontano i rischi.
Argomento già affrontato
Non è la prima volta che il Parlamento si pronuncia su aspetti come quelli evocati da Mahaim. Il 16 marzo scorso, le camere hanno adottato una mozione del «senatore» Fabio Regazzi (Centro) che chiede al Consiglio federale di elaborare una strategia contro l'uso abusivo delle immagini, accordando particolare attenzione alla protezione di donne, giovani e bambini.
Stando al ticinese, attualmente si fa troppo poco contro la produzione e l'utilizzo di immagini false, specie a sfondo pedopornografico, il tutto facilitato dall'intelligenza artificiale. Regazzi cita come esempio il caso del gruppo Facebook «Mia moglie» con ramificazioni anche in Ticino.
Le false foto di nudo o i video porno deepfake sono utilizzati per estorcere denaro o immagini sessualmente esplicite reali, stando al ticinese, secondo cui le vittime sono spesso anche minorenni. Per questo è necessario elaborare un approccio globale per la protezione dalle massicce violazioni della personalità e dalla violenza pedocriminale in rete tramite immagini manipolate. Al momento, infatti, la ciberstrategia nazionale non tratta né il problema delle immagini manipolate, che sta diventando un fenomeno di massa, né la ciberpedocriminalità.
