Il problema dell'AI generated porn

Il 25 aprile 2015 iniziò l’incubo di Tiziana Cantone, vittima di revenge porn abbandonata dalle istituzioni e dalla giustizia. Un caso non isolato ma particolarmente discusso, che scatenò un vero e proprio dibattito pubblico contribuendo, 4 anni dopo, all’introduzione nell’ordinamento italiano del reato di revenge porn disciplinato dall’articolo 612 del Codice Penale. Questo reato punisce non solo chiunque invii video o foto sessualmente espliciti senza chiedere il consenso alla persona ritratta ma anche chi li riceve e chiunque ne consenta la diffusione. L’introduzione di questo reato in Italia e non solo, però, evidentemente non è un deterrente abbastanza forte, e presenta alcune lacune di cui approfittarsi.

Il reato non basta: l'abuso online e il problema del consenso

Ad esempio, non ha mai fermato alcuni uomini a fondare dei gruppi su Telegram con l’unico scopo di scambiarsi (all’insaputa delle diretta interessate, naturalmente) foto prese sui social o ricevute privatamente di amiche, familiari o conoscenti (anche minorenni) e a descrivere nel dettaglio cosa gli farebbero, e più violento è meglio è. Nè, ancora, gli impedisce tutti i giorni di filmare delle ragazze e di postarle sui social, a vario titolo e scopo. Un esempio recentissimo è quello del filmato girato a Manchester che ritrae un gruppo di ragazze in outfit da sera. Il video, adesso, non solo è virale ma è anche diventato un esempio della presunta facilità di costumi delle donne di oggi che, secondo alcuni pensatori dell’estrema destra statunitense, ad esempio, dovrebbero stare a casa a pregare, cercare un marito, crescere i figli e non a divertirsi in giro in minigonna e tacchi a spillo. Con l’altissima probabilità che le ragazze del video non abbiano idea di essere diventate il baluardo della mollezza dei costumi contemporanei in una delle bolle più violente e represse del web e con il rischio di essere identificate e diventare vittime di doxxing. 

Il porno generato dall'Intelligenza Artificiale

Adesso, in questa tendenza già di per sé preoccupante - una spia della mancanza di educazione e sensibilizzazione su concetti fondamentali per il vivere civile come il consenso, le dinamiche di potere, lo slutshaming e la misoginia - si inseriscono alcuni tool che utilizzano l’Intelligenza Artificiale a rendere il lavoro ancora più facile (e fuori controllo). Ce ne sono a decine, alcuni gratis altri a pagamento, più o meno sofisticati. In comune, hanno la capacità di creare video o immagini pornografiche o di nudo a partire da fotografie reali, modificandole o utilizzandone degli elementi, con l’aiuto anche delle tecnologie deep fake. Il problema è evidente. Si tratta in primis di una grave violazione di consenso, di un vero e proprio abuso online. Questi contenuti, poi, vengono diffusi e, se creati da tool di alta qualità, risultano virtualmente indistinguibili da video reali, mettendo nei guai le vittime, facendole sentire violate e usate, facendogli perdere il lavoro o rovinando loro la reputazione. Tutto perché il porno “tradizionale” non basta più: adesso, gli uomini vogliono vedere nude e in atteggiamenti spintamene sessuali le loro colleghe, amiche, vicine di casa. Vogliono invadere la loro privacy, violare la loro intimità immaginandone una inesistente e schiava degli stilemi del porno, ricevere un’esperienza personalizzata. E l’Intelligenza Artificiale è qui anche per questo. 

I casi sono in crescita

Secondo il Time questi tool non sono mai stati più popolari, e le prime testimonianze iniziano a venire alla luce. C’è la storia di Francesca Mani, che, vittima quindicenne di un porno deepfake ha deciso di lanciare un sito per informare e aiutare le ragazze come lei. C'è Cecilia Luque, che lo ha scoperto da un ex compagno di scuola, o Helen Mort, giovane madre inglese. Ci sono le 11 vittime minorenni di Almendralejo, nel sud-ovest della Spagna. I casi sono in crescita, le leggi non sono abbastanza veloci e non tutte includono nel reato di revenge porn le immagini fabbricate artificialmente, provocando un vero e proprio vuoto legislativo in cui i molestatori si muovono.

Cosa fare? Associazioni e risorse

Cosa fare in questo caso? Per rispondere al problema, stanno nascendo siti e raccolte di risorse per aiutare le vittime di questa pratica talmente nuova che, al momento, è difficile da inquadrare giuridicamente e quindi da punire, sia negli Stati Uniti che in Italia. Si chiede aiuto ai governi ma anche alle piattaforme social e ai motori di ricerca, che potrebbero dare una mano a eliminare i link e le pubblicità a questo tipo di strumenti, che non hanno altra funzione se non quella di molestare e umiliare, e a frenare la diffusione di immagini non consensuali. In Italia esiste l’associazione Permesso Negato che assiste le vittime nel loro percorso di denuncia e di ripresa dall'abuso subito. Come al solito, però, si tratta di un problema culturale, che non può essere risolto limitando l'utilizzo dell'Intelligenza Artificiale da parte del pubblico, ma che deve essere affrontato a un livello più profondo di educazione sociale ed emotiva e dalle istituzioni.