Come proteggerci dagli «stupri virtuali»?

Votazioni, elezioni e manifestazioni anti-G7. Il 14 giugno è stato un giorno carico di eventi politici e così è passato un po’ sottotraccia l’annuale sciopero delle donne. Al centro della giornata: la lotta contro la violenza sessualizzata e i femminicidi. Fenomeni dai numeri raccapriccianti nella vita reale e sempre di più anche in quella virtuale. La democratizzazione delle intelligenze artificiali ha reso il fenomeno della violenza online a sfondo sessuale sempre più urgente, soprattutto a causa dell’esplosione dei cosiddetti deepfake. In pratica basta la fotografia di una persona e certe IA fanno il resto: la spogliano o creano filmati pornografici. Foto e video di un realismo tale che è difficile comprendere che si tratta di contraffazioni. Immagini false che poi vengono spesso condivise sulle reti sociali. E così le vittime si ritrovano esposte allo sguardo di altri, di sconosciuti, in situazioni degradanti che non hanno mai vissuto. Fotogrammi falsi per una sofferenza reale; tanto che si comincia a parlare di «stupro virtuale».

Stando a Protezione dell’infanzia Svizzera, un giovane su due dichiara di aver già subito almeno una molestia sessuale online e le statistiche di polizia rilevano che nell’85% dei casi le vittime hanno meno di 20 anni. Che il fenomeno sia in crescita lo conferma poi il servizio di informazione e di assistenza clickandstop.ch, che nel 2025 ha registrato un aumento del 63% delle richieste di aiuto da parte di giovani, che hanno subito molestie in Rete o un qualche tipo violenza con l’utilizzo di immagini di nudo create dall’IA. Stando a studi internazionali, la quasi totalità delle vittime di deepfake sessuali sono donne. La giovane età delle vittime è una costante anche in altri Paesi, come in Germania, dove è però il caso dell’attrice Collien Fernandes, 44 anni, ad aver sollevato, a marzo, un ampio dibattito pubblico. La donna ha denunciato l’ex marito, che sospetta di essere all’origine dei tanti video falsi a sfondo sessuale che la ritraggono e che circolano sulle reti sociali. Il caso di Fernandes non è isolato, altre donne con ruoli pubblici hanno subito questo genere di abuso, dalla premier italiana Giorgia Meloni alla cantante statunitense Taylor Swift.

Compagne nel mirino

In Svizzera sono due recenti inchieste del «Tages-Anzeiger» a riportare sotto i riflettori il problema. Un caso riguarda dei ragazzini fra i 12 e i 14 anni, che hanno generato delle foto delle loro compagne di scuola nude per poi condividerle sui social. L’altro svelava l’esistenza di gruppi su Telegram con centinaia di uomini che nella Svizzera tedesca si scambiavano e commentavano deepfake. Immagini e video contraffatti che in gran parte abusavano dell’immagine di giovani influencer. Otto di loro hanno deciso di sporgere denuncia. Perché denunciare si può, anche se in Svizzera i porno-deepfake non rappresentano di per sé un reato. E il Consiglio federale ritiene che vada bene così, che bastino gli attuali delitti contro l’onore o l’usurpazione dell’identità ecc. Eppure, fanno notare i giuristi, un reato deve essere imputato a qualcuno (a un privato o a una persona giuridica) mentre il più delle volte le vittime non sanno chi si celi dietro ai profili anonimi che diffondono quelle immagini degradanti. Le denunce sono dunque spesso contro ignoti e con pochissime possibilità di successo. Il web corre veloce, i tempi della giustizia no, e la legge non riesce a lenire il senso di impotenza delle vittime.

È proprio da questa considerazione che parte una mozione del consigliere nazionale dei Verdi Raphaël Mahaim, la quale chiede una legge che «obblighi i fornitori di applicazioni di IA generativa a effettuare, prima di commercializzare le applicazioni, valutazioni dei rischi e dei danni correlati alla creazione di contenuti deepfake di natura sessuale nonché ad adottare misure di protezione qualora le loro applicazioni siano in grado di creare contenuti di questo tipo. Occorre istituire un’autorità di controllo incaricata di verificare le valutazioni dei rischi e le misure adottate e, se del caso, di sanzionare i fornitori». Non creare un nuovo reato, ma richiamare alla propria responsabilità chi sviluppa gli strumenti che permettono di generare video e foto contraffatti a sfondo sessuale, un cambio di paradigma che ha convinto la maggioranza del Consiglio nazionale. Un passo chiesto a gran voce anche da molti cittadini: i 25mila che hanno firmato la petizione che chiedeva proprio l’approvazione della mozione Mahaim. E se su questo testo anche il Governo è della partita, bisogna dire che non è sempre stato così, qualche tempo fa invitava ancora a respingere una mozione di Fabio Regazzi, che chiedeva «una strategia globale per fermare l’ondata di video porno deepfake e di sextortion». Un’idea poi sostenuta dalle due Camere, che dimostrano dunque sensibilità per un tema che preoccupa molti Governi.

«Un’emergenza nazionale»

A inizio anno il premier britannico Keir Starmer ha definito l’esplosione dei deepfake sessuali «un’emergenza nazionale». Il Governo ha quindi proposto una legge che rende illegale la creazione di questi contenuti, mentre l’autorità britannica che vigila sulle comunicazioni digitali sta preparando regole che imporranno alle piattaforme di individuare e bloccare i materiali vietati, prevedendo persino il carcere per i dirigenti che non si adegueranno. Misure severe che dovrebbero entrare in vigore già in autunno, prima di quelle europee. Anche l’Ue, infatti, introdurrà da inizio dicembre il divieto dei sistemi di IA utilizzati per generare contenuti sessuali o intimi non consensuali, dai deepfake abusivi al materiale di sfruttamento minorile.

Approcci e misure in parte diversi per far fonte a un problema nel quale si riverbera il più grande interrogativo a cui oggi è confrontata l’umanità: il Governo dell’IA. Come porle dei limiti? Come utilizzare le sue straordinarie capacità a favore e non contro le persone e le collettività? Domande su cui dobbiamo riflettere e non solo nell’odioso ambito della generazione di contenuti sessuali indesiderati, perché fra non molto saremo chiamati a fornire la nostra risposta alle urne. A livello federale è infatti in fase di raccolta firme la cosiddetta «Iniziativa internet», promossa da politici di tutti i partiti e molte associazioni, che chiede prescrizioni per tutelare i diritti fondamentali e i processi democratici nello spazio digitale. Un dibattito che si annuncia appassionante, fra chi difenderà libertà d’espressione e responsabilità individuali e chi sosterrà invece la necessità di un intervento statale, di regole condivise, per uno strumento che già sta cambiando il nostro quotidiano.