“Ciò che ha subito attirato la nostra attività di Centro Studi è stata la rapida diffusione del fenomeno. Colpisce tutti il fatto che la tecnologia risulta un abitatore e moltiplicatore del reato ma prima ancora della sottovalutazione delle possibili conseguenze dell’atto. L’autore del reato, quando viene portato di fronte alle sue responsabilità risponde quasi sempre giustificandosi dicendo che si trattava solo di un “gioco”.
Il revenge porn però può avere un forte impatto emotivo sulle persone. Non mancano, purtroppo, tristi storie di cronaca riguardanti giovani donne che non hanno sopportato il peso della vergogna.”
Per Antonio Votino, presidente del Centro Studi CESMAL, intervenuto nel panel della Conferenza Istituzionale di Educazione e consapevolezza al Sexting tenutosi alla Camera dei Deputati Sala Tatarella il 28 scorso è importante creare una cultura digitale dei cittadini promuovendo un confronto tra esperti e istituzioni, decisori e stakeholder, che sappiano incontrarsi e dialogare.
Il digitale e l’innovazione tecnologica producono accelerazioni tali che il mero approccio normativo e regolatorio rischia di non comprendere o peggio ancora di favorire le posizioni dominanti.
“Essendo questo reato alimentato dalla tecnologia, non solo perché c’è in ballo la mera diffusione di un prodotto già pronto come immagini o video ma anche perché si sta diffondendo una tecnologia generativa legata all’intelligenza artificiale. Occorre un approfondimento sul come questa tecnologia viene usata e quali difese è possibile adottare.
Stiamo assistendo al proliferare di una nuova modalità di revenge porn che aggiunge una dimensione completamente nuova alle molestie online: da qualche tempo su internet, infatti, vengono utilizzate immagini e video pornografici per molestare le donne utilizzando algoritmi deepfake. L’utilizzo di intelligenza artificiale che è in grado di costruire sostituzioni di corpi di persone attraverso una semplice foto con una precisione esecutiva sfruttando la medesima tecnologia deepfake.
Si tratta di algoritmi che partendo da una foto anche non contestualizzata ad esempio prelevata dal proprio profilo Facebook ricostruiscono una immagine diversa, ad esempio, DeepNude che utilizza una foto di qualsiasi tipo generando altre foto e anche contestualizzando come in un set di un film porno l’immagine finale che risulterà vera solo per il volto della vittima.
Bikinioff è un bot di Telegram salito alle prime posizioni dei trend mondiali negli ultimi giorni per via del controverso servizio che mette a disposizione: come da nome può infatti letteralmente spogliare di tutti i vestiti una persona in una foto restituendo un risultato convincente visto che non si limita a incollare il viso su un corpo nudo, ma riprende anche la posa e rispetta le proporzioni del fisico così come la tonalità dell’incarnato.
L’intelligenza artificiale, in questo caso riesce da un lato ad analizzare lo scatto e dall’altro modificarlo in pochi secondi con un editing particolarmente efficace. Inutile specificare come questo servizio sia stato già al centro di episodi deprecabili come nel caso di diffusione di foto diffuse da alcuni studenti di una scuola media del lazio che ha coinvolto cinque alunne di appena 13 anni e una professoressa che sono state “spogliate” e messe in rete da un gruppo di giovanissimi senza alcuna remora nell’utilizzare un app illegale.
La pericolosità di questi strumenti, non dimentichiamo che si rivolgono ad una criminalità che tende a ricattare celebrità o individui di alto profilo per avviare campagne di molestie per mettere a tacere alcune giornaliste scomode contribuendo, così, ad accrescere la disinformazione online che sta deformando la realtà, danneggiando individui, organizzazioni e processi chiave come le elezioni.
Il Garante della Privacy, ha manifestato preoccupazione per gli effetti prodotti dal software e dalla sua diffusione tra gli utenti del social Telegram, già oggetto di un’attività di verifica da parte dell’Autorità, a tal punto da aprire un’istruttoria nei suoi confronti.
Rendere responsabili le piattaforme di contenuti è il modo per riportare nell’alveo dell’etica, dell’educazione alla legalità e regolamentare la loro attività che produce anche alti profitti. Di qui la necessità che il legislatore renda l’ecosistema digitale sicuro attraverso lo sviluppo di un impianto normativo ad hoc, che nasca sentendo gli esperti e in un quadro di collaborazione multilaterale tra le diverse istituzioni a livello globale.
Occorre trasformare la rete in una fonte affidabile di informazioni evitando il proliferare di vantaggi economici ed il controllo in poche mani che generano da parte di terze azioni criminose senza che ci siano opportuni livelli di responsabilità. Infine, è quanto mai urgente diffondere una cultura digitale sin dalle scuole primarie in modo tale da fornire degli strumenti di formazione culturale per educare i cittadini ad una corretta fruizione dei media e adottare un comportamento etico, grazie al quale ognuno si fa carico delle proprie azioni.
Il rischio, se non riusciremo a dominare questo fenomeno sarà di creare una società “zero trust”, ovvero una società in cui le persone dubitano di tutto, persino di quello che vedono con i propri occhi e portandole a non interessarsi più di scoprire se una cosa sia vera o falsa per il solo fatto che può essere manipolata.”