Spogliano le compagne di classe con l’IA e diffondono le immagini su Snapchat
Spogliano le compagne di classe con l’IA e diffondono le immagini su Snapchat Svizzera tedesca, scuola sotto shock: deepfake a sfondo sessuale tra studenti tra i 12 e i 14 anni
Svizzera tedesca, scuola sotto shock: deepfake a sfondo sessuale tra studenti tra i 12 e i 14 anni
ZURIGO - Il rischio di essere “spogliati” dall’intelligenza artificiale non è più teorico, ma è sempre più reale. Dopo l’allarme lanciato dai centri di prevenzione giovanile in tutta la Svizzera, il fenomeno ha colpito anche una scuola. Secondo quanto riportato dal Tages-Anzeiger, un gruppo di studenti di una scuola secondaria avrebbe creato con strumenti di IA immagini sessualizzate di compagne di scuola, senza il loro consenso, per poi diffonderle ad altri ragazzi tramite Snapchat.
I giovani - tra i 12 e i 14 anni - avrebbero utilizzato un sito web gratuito (il cui nome non viene reso pubblico, ndr) che pubblicizza apertamente la possibilità di “spogliare” qualsiasi persona in pochi secondi grazie all’intelligenza artificiale. L’uso è descritto come estremamente semplice, senza necessità di competenze tecniche. È possibile persino modificare colore della pelle, postura e caratteristiche fisiche intime.
L’episodio sarebbe avvenuto nel 2025 in una scuola secondaria della Svizzera tedesca. Le autorità hanno aperto un procedimento presso la procura minorile cantonale.
Dal punto di vista legale, il quadro è chiaro - «Quando immagini di nudo vengono prodotte di nascosto, cioè senza il consenso delle persone coinvolte, o inoltrate a terzi, ciò può costituire reato», spiega Martin Wyss, avvocato e collaboratore scientifico all’Università di Zurigo. «Se le immagini riguardano minori di 18 anni, si può configurare il reato di produzione e diffusione di pornografia minorile. Non fa alcuna differenza che l’immagine sia reale o generata con l’IA».
Il divieto di produrre e diffondere questo materiale vale anche per i minorenni. In Svizzera si è penalmente responsabili già a partire dai dieci anni. Un’eccezione esiste solo nel caso di scambi consensuali e gratuiti tra coetanei con una differenza di età massima di tre anni. Spetterà ora alla giustizia stabilire eventuali conseguenze penali. Intanto, però, resta il danno per le studentesse coinvolte: la diffusione di questo tipo di immagini è associata a forti ripercussioni psicologiche e a un profondo senso di impotenza.
Quello che emerge è uno scenario allarmante: strumenti commerciali, liberamente accessibili, permettono di creare contenuti sessuali falsi che poi si propagano con facilità sulle piattaforme social. I profitti sono globali, ma le conseguenze ricadono su scuole, famiglie e ragazzi.
Deepfake senza carta di credito né tutele per i minori - Nelle scorse settimane anche il modello di IA Grok di Elon Musk è finito al centro delle polemiche per funzionalità simili, offerte agli utenti paganti della piattaforma X. Nel caso del sito utilizzato dagli studenti, la situazione appare ancora più grave: non risultano misure di protezione per i minori. Non è richiesto dichiarare di avere più di 18 anni, né fornire un’email o creare un account. L’accesso è anonimo e gratuito, e la generazione delle immagini non richiede carta di credito.
In pratica, anche bambini e adolescenti possono utilizzare liberamente il servizio, che non sembra adottare filtri efficaci contro la pornografia minorile e accetterebbe anche immagini di minori.
Una situazione che ha spinto i giornalisti del Tages-Anzeiger a cercare i responsabili del sito: dietro la piattaforma ci sarebbe un uomo di 44 anni residente a Shenzhen, in Cina. Alle richieste di commento, però, non sarebbe arrivata alcuna risposta.
Su alcuni temi riceviamo purtroppo con frequenza messaggi contenenti insulti e incitamento all'odio e, nonostante i nostri sforzi, non riusciamo a garantire un dialogo costruttivo. Per le stesse ragioni, disattiviamo i commenti anche negli articoli dedicati a decessi, crimini, processi e incidenti.
Il confronto con i nostri lettori rimane per noi fondamentale: è una parte centrale della nostra piattaforma. Per questo ci impegniamo a mantenere aperta la discussione ogni volta che è possibile.
Dipende anche da voi: con interventi rispettosi, costruttivi e cortesi, potete contribuire a mantenere un dialogo aperto, civile e utile per tutti. Non vediamo l'ora di ritrovarvi nella prossima sezione commenti!