di Francesca Pignataro
Il concetto di realtà è qualcosa di molto più sfumato di quanto non ci piaccia credere: i nostri sensi ci ingannano, la nostra memoria riscrive e riorganizza i ricordi e, talvolta, ci induce a rimuovere episodi traumatici. La nostra percezione degli eventi varia in base alla nostra prospettiva. Potremmo dire che il nostro rapporto con il reale è mediato dalla nostra esperienza del mondo o da quella che ci viene trasmessa in varie forme e attraverso vari mezzi. Esiste, però, una netta differenza tra ricostruzioni soggettive del reale e falsificazione della realtà.
La prima è un processo inevitabilmente legato alla fallacia umana, la seconda è un’arma di influenza sociale e politica. E i deepfake ne sono un esempio evidente.
Bugie, algoritmi e manipolazione della realtà
La manipolazione della realtà non è un fenomeno nuovo né esclusivo della nostra epoca storica: basti pensare alla falsificazione di documenti e reperti storici, alla propaganda politica dei regimi novecenteschi o al fenomeno delle fake news sui social media attraverso cui si manipola l’opinione pubblica. Ciò che cambia oggi è la portata della manipolazione e la velocità con cui essa può essere diffusa.
Una delle espressioni più sofisticate di questa tendenza è rappresentata, appunto, dai deepfake.
Essi nascono dall’unione del deep learning e della generazione di contenuti falsi: algoritmi come le Generative Adversarial Networks (GAN) apprendono dai dati visivi e vocali per creare immagini, video e audio di altissimo realismo, sovrapponendo voci e volti reali su foto o video mai scattati o ripresi.
Arte e porno
Questi strumenti trovano interessanti applicazioni nella sfera della produzione artistica, ricostruendo volti storici o permettendo di girare film ringiovanendo o invecchiando gli attori. Allo stesso tempo possono essere usati come strumenti di potere.
Il fenomeno non è trascurabile: dalle analisi realizzate da Security Hero emerge un aumento del 550% dei deepfake online tra il 2019 e il 2023, anno in cui sono stati diffusi 95.820 video di questo tipo. Ma qual è lo scopo principale per cui sono realizzati? Campagne di disinformazione politica? Intrattenimento? No. Il 98% dei video deepfake online è di natura pornografica e il 99% dei soggetti usati per la realizzazione di questi video sono donne.
Deepfake in Calabria: il caso di Acri
Ci scandalizziamo per la pornografia? No, ma ciò che deve allarmarci è l’assenza di consenso esplicito per la creazione di tali contenuti. Un caso emblematico si è verificato alla fine di febbraio 2025 ad Acri, nel cosentino.
Un’inchiesta della Procura di Cosenza, avviata grazie alle denunce di alcuni genitori, ha portato alla luce un grave fenomeno di manipolazione digitale: più di 1.200 foto di adolescenti, principalmente ragazze, sono state alterate tramite intelligenza artificiale per creare contenuti a sfondo sessuale, poi diffusi su Telegram.
Le foto originali erano foto quotidiane, non diverse da quelle che molte e molti di noi postano sui social o inviano su gruppi di compagni di scuola o colleghi. L’indagine ha coinvolto oltre 200 minori e ha avviato perquisizioni informatiche per identificare i responsabili. Le accuse che potrebbero includere la diffusione di materiale pedopornografico.
Uso dell’immagine e social
Il problema dei deepfake si radica profondamente nella violazione del consenso, sollevando interrogativi cruciali: chi ha il diritto di decidere come e in quali contesti la propria immagine venga utilizzata?
Il deepfake rappresenta una forma di violenza simbolica, che si avvicina per impatto e dinamiche, al reato di stupro. In entrambi i casi si tratta di un esercizio di potere, esercitato ai danni di chi subisce questo abuso, e la mancanza di consenso priva l’individuo del controllo sulla propria identità, sia essa fisica o digitale, e nega la possibilità di scegliere rispetto al proprio corpo.
Inoltre, la diffusione non consensuale di materiale intimo assume una nuova dimensione con i deepfake: non è più necessario che esistano immagini intime reali per compromettere la reputazione di una persona, è sufficiente creare contenuti falsi ma credibili. La creazione di contenuti pornografici non consensuali, che sfruttano il volto delle donne, è una manifestazione di violenza di genere che perpetua la cultura dello stupro. Come l’invasione fisica del corpo, il deepfake manipola l’immagine personale trasformandola in un oggetto e negando alla vittima il diritto fondamentale all’autodeterminazione. Questo fenomeno non è solo una questione tecnica, ma un attacco diretto all’identità e alla soggettività delle donne e può essere visto come una manifestazione digitale della violenza sessuale.
Vittime dei deepfake senza tutele
Ma quali tutele ci sono per le vittime? La natura stessa dei deepfake rende complessa la loro regolamentazione. In Italia non esiste una legislazione specifica che affronti direttamente il fenomeno dei deepfake. In assenza di una normativa ad hoc, si fa riferimento a leggi esistenti, come quelle sulla diffamazione e sulla violazione della privacy, per perseguire legalmente gli autori di deepfake dannosi.
A livello europeo la situazione non differisce molto: sebbene si riconosca l’esigenza di regolamentazioni specifiche, che tutelino l’integrità degli individui rendendo l’uso di questi strumenti più trasparente e responsabile, la rapida evoluzione dei deepfake richiede un approccio legislativo flessibile. L’intervento dei governi, tuttavia, rischia di non essere sufficiente senza la collaborazione delle piattaforme su cui i deepfake sono diffusi.