Giovedì 04 Marzo 2021
MacroambienteIl bot Telegram che “spoglia” le foto e l’universo (sommerso) della pornografia non consensuale: cosa succede in Italia

Il bot Telegram che "spoglia" le foto e l'universo (sommerso) della pornografia non consensuale: cosa succede in Italia

L'ultima novità è l'intervento del Garante privacy. La vicenda del bot Telegram che spoglia le foto è, però, complessa sotto diversi aspetti.

Il bot Telegram che

La vicenda del bot Telegram che spoglia le foto è rimbalzata in queste settimane sulle pagine delle più importanti testate italiane. Tanto che, ultima novità in ordine di tempo, il Garante per la protezione dei dati personali ha avviato un’istruttoria contro Telegram, vedendosi costretto a sottolineare «le gravi lesioni alla dignità e alla privacy» delle persone coinvolte che derivano dall’uso di simili tecnologie. Quanto accaduto, però, ha origini più lontane nel tempo e rischia soprattutto di avere effetti a più ampio raggio e di porre questioni delicate anche da un punto di vista normativo-legale.

Cos’è, come funziona e quante vittime ha fatto il bot telegram che spoglia le foto

Prima del bot Telegram che spoglia le foto fu, infatti, l’app DeepNude, ritirata dagli store quando gli stessi sviluppatori si accorsero dell’uso controverso che alcuni utenti ne stavano facendo.

Entrambi, l’app prima e il bot ora, sfrutta(va)no l’intelligenza artificiale per creare deep fake espliciti a partire da una qualsiasi immagine ritraente la persona. Molto più pragmaticamente, cioè, basta essere in possesso di una qualsiasi foto, in cui anche il soggetto compaia completamente vestito, per averne indietro, nel caso del bot su Telegram semplicemente dopo averla inviata in chat come qualsiasi altro allegato multimediale, una versione senza veli. I deep porn così ottenuti sono in tutto e per tutto realistici e praticamente indistinguibili da delle vere foto intime e, naturalmente, si offrono a una molteplicità di usi: dalla condivisione in Rete per vendetta alla richiesta di un riscatto, nonostante lo scopo ufficiale paventato dagli sviluppatori rimanga quello ludico-scherzoso.

Due recenti studi della società di sicurezza Sensity, rispettivamente sullo stato dei deep fake e dell’automating image abuse, hanno evidenziato che a luglio 2020 oltre 104mila donne sarebbero state vittime del bot Telegram che spoglia le foto: il numero è quasi triplicato in soli tre mesi, collocando l’Italia tra i primi quattro paesi al mondo per incidenza del fenomeno insieme a Russia, Stati Uniti e Argentina, e, soprattutto, nel 70% dei casi si tratta di vittime comuni e, cioè, che non hanno niente a che vedere con ambienti VIP, ad apparente conferma della preoccupazione del Garante privacy che questi deep fake espliciti e a sfondo sessuale possano mietere vittime tra «chiunque abbia una foto sul web».

Finte foto esplicite circolanti su telegram: che responsabilità per l’app

Uno dei primi aspetti critici nella vicenda delle donne spogliate dal bot di Telegram (in Italia sarebbero state almeno 680mila secondo la Repubblica, oltre 700mila invece secondo altre testate) ha a che vedere, insomma, con la responsabilità della stessa app di messaggistica istantanea. Ci si può appellare in questo senso, ed è quello che in effetti ha fatto il Garante, alle previsioni del GDPR secondo cui sta al titolare del trattamento dei dati personali accertarsi di aver adottato «misure tecniche e organizzative» atte a «garantire un livello di sicurezza adeguato al rischio».

Per il resto, però, la vexata quaestio rimane quella della responsabilità dei gestori delle piattaforme rispetto ai contenuti condivisi dagli utenti. Fonti diverse – la sezione 230 del Telecommunication Act del ’96 in America, tanto discussa in tempi di guerre dichiarate ai big del social networking dal presidente uscente Trump, per esempio, o la direttiva 2000/31/UE sui servizi della società dell’informazione e via di questo passo – provano ad affrontarla, tutte giungendo a conclusioni piuttosto scriminanti. Fin qui, insomma, semplificando molto, a chi offre servizi web e ai gestori di piattaforme social  per la messaggistica istantanea è fatto obbligo semplicemente di informare «senza indugio» le autorità competenti quando vengano rilevate attività illecite.

Dal revenge porn alla pedopornografia: come difendersi legalmente dai deep fake espliciti

Il dubbio principale, però, per parafrasare un titolo di Agenda Digitale, ha a che vedere con come la legge tutela le donne spogliate dell’intelligenza artificiale. Sarebbe impensabile, essendo quello del bot Telegram che spoglia le foto e di altre applicazioni simili un fenomeno solo recente (o, perlomeno, che solo di recente ha assunto dimensioni considerevoli), l’esistenza di un reato ad hoc. Questo non vuol dire, però, che non ci siano già anche in Italia possibili forme di tutela contro i deep porn. Anche per la maggior parte di altri cybercrime, del resto, quando si tratta semplicemente di reati commessi attraverso l’utilizzo del computer o di altre tecnologie digitali (Ziccardi G., Perri P., “Tecnologia e diritto. Volume III“, 2019), la via seguita dal legislatore penale è quella di assimilarli a e trattarli come le fattispecie tradizionali a cui sono riconducibili.

Attualmente, insomma, il reato a cui sembrerebbe più assomigliare la creazione e la condivisione di finte immagini esplicite grazie a intelligenza artificiale e deep fake è quello del revenge porn , soprattutto se ciò avviene con l’intento di vendicarsi o mettere in ridicolo o in soggezione il proprio ex partner. Il dubbio è però che, come formulato e a una lettura rigorosa, l’art. 612-ter c.p. possa agire solo nell’ipotesi in cui foto o video espliciti fake siano stati originariamente realizzati con il consenso della vittima o dalla vittima in prima persona e poi condivisi in maniera non consensuale. Non potranno essere che gli indirizzi della giurisprudenza a decidere quanto estendere le possibilità di applicare la fattispecie.

Non si può non considerare, comunque, che il bot Telegram che spoglia le foto e altre applicazioni simili sono spesso usati per creare ad arte foto o video espliciti con cui minacciare la vittima. La sextortion, ossia la richiesta di denaro in cambio della non pubblicazione o della distruzione di materiale che mostri la persona in atteggiamenti intimi o ne riveli gusti e preferenze sessuali e via di questo passo, è un crimine già in origine analogico e vecchio almeno quanto lo sono stampa scandalistica, paparazzi, detective privati ingaggiati in casi di tradimenti o triangoli amorosi. La facilità con cui in Rete si riescono a disseminare e a far diventare virali i contenuti, anche quando l’intento è nocivo o gli stessi sono in realtà contenuti fake, ha solo reso l’estorsione a sfondo sessuale una pratica piuttosto comune e non solo a opera di amanti delusi, ma anche e soprattutto di cybertruffatori professionisti. Non a caso l’Interpol ha dedicato proprio alla sextortion una puntata di “#OnlineCrimeIsRealCrime“, una campagna di sensibilizzazione sui reati online. Quando, comunque, i deep nude vengono utilizzati allo scopo di estorcere denaro, l’ipotesi è semplice e il reato è quello di estorsione (ex art. 629 c.p.).

La questione si fa decisamente più delicata, invece, quando  bot e applicazioni di questo tipo vengano utilizzati per spogliare foto di minori. Assieme al grooming , i deep nude sono al momento tra i principali rischi a cui sono esposti i bambini sul web.

Libri sul tema
nasci cresci posta Nasci, cresci e posta. I social network sono pieni di bambini: chi li protegge?

Spesso i pericoli a cui sono sottoposti i bambini sul web sono sopravvalutati rispetto alle opportunità di crescita che derivano da questi stessi ambienti

LEGGI

Il più efficace appello, così, rimane quello a genitori e parenti di evitare quanto più possibile lo sharenting, ossia la condivisione in Rete e sui social di immagini e video dei propri bambini: per un malintenzionato è assolutamente facile, infatti, usare uno dei tanti tool di deep porn (e la vicenda dell’app DeepNude insegna, tra l’altro, che non basta renderne indisponibile uno per evitare la proliferazione sugli store di decine di altri clone) per trasformare anche il contenuto più innocuo in materiale sessualmente esplicito. La buona notizia è però che, almeno da metà anni Novanta, c’è in Italia una disciplina apposita per la pedopornografia ed è una disciplina che, forse in anticipo sui tempi, estende le pene normalmente previste per la diffusione di materiale pedopornografico anche a quei casi in cui sia materiale ottenuto tramite «tecniche di elaborazione grafica» su immagini «non associate in tutto o in parte a situazioni reali». Quelle ottenute con il bot Telegram che spoglia le immagini o altri tool simili potrebbero rientrare, insomma, con ogni probabilità tra le «immagini virtuali» di cui parla l’art. 600-quater.1 c.p.

Come sottolinea Ius in itinere, comunque, dalle semplici minacce (ex art. 612 c.p.), quando le finte immagini esplicite vengano usate per creare uno stato di ansia duraturo nella vittima, alla violenza privata (ex art. 610 c.p.), soprattutto quando intercorrano relazioni personali tra la vittima e chi ha li ha creati, passando per quel complesso di reati che hanno a che vedere con il danno di immagine o reputazionale e persino per le ormai depenalizzate pubblicazioni oscene (ex art. 528 c.p.), tanti sono gli strumenti con cui ci si può tutelare dai deep porn. Dal diritto all’inglese verrebbe addirittura la proposta di ricorrere, in extremis e in mancanza di altri strumenti più validi, alla disciplina del diritto d’autore quando una foto, un video o altro materiale multimediale sia modificato senza consenso. La sfida – ed è una sfida che accomuna periti, consulenti tecnici nelle aule di un tribunale e spin doctor davanti al (finto) scandalo sessuale in cui è coinvolto il candidato dato per favorito alla vigilia del voto – diventa, insomma, soprattutto quella di saper individuare certamente come tali i deep fake.

Dal bot telegram che spoglia le foto ai numeri oscuri della pornografia non consensuale in rete

La vicenda del bot Telegram che spoglia le foto e tutti i suoi risvolti normativo-legali e riguardanti responsabilità e commitment delle piattaforme a guardare bene sembrano però solo la punta dell’iceberg di un fenomeno più dilagante: quello della pornografia non consensuale in Rete. Già nell’estate 2020 alcune inchieste di giornali italiani come Wired e FanPage.it avevano svelato un grande network di revenge porn su Telegram e chat «degli orrori» in cui i partecipanti si scambiavano foto e video sessualmente espliciti, non di rado di minori o ex partner, ma scalpore aveva fatto soprattutto che, in qualche caso, fossero padri a condividere foto delle figlie in atteggiamenti intimi o con pochi vestiti perché gli altri utenti potessero rendere loro «un tributo». Più tardi, come sottolinea PermessoNegato, emerse anche in Italia il fenomeno OnlyFans. Si tratta di un servizio di patronato che permette agli utenti di condividere contenuti di proprietà e realizzati in prima persona con altri utenti in cambio di un corrispettivo economico: con il tempo, però, non solo alcune ragazze anche italiane hanno cominciato a utilizzarlo per vendere immagini o video in cui appaiono senza veli o in atteggiamenti intimi, ma le stesse immagini e gli stessi video sono poi spesso indebitamente ricondivisi su alcune chat, gruppi o canali sui servizi di instant messaging. Il risultato insomma è che, nonostante tra l’altro la Polizia Postale fosse già intervenuta a chiudere alcuni gruppi Telegram in cui circolava materiale sessualmente esplicito, sull’app ci sono ancora 89 tra gruppi e canali attivi nel diffondere forme di pornografia non consensuale, frequentati da un numero di utenti non unici superiore ai sei milioni: spesso si tratta di utenti iscritti contemporaneamente a più gruppi o canali di questo tipo: la percentuale di sovrapposizione calcolata dallo “State of Revenge – novembre 2020” di PermessoNegato è del 60%. Lo stesso studio rivela, infine, un dato preoccupante: lo scambio di foto o video sessualmente espliciti, ottenuti o meno tramite il bot Telegram che spoglia le foto o altri tool simili, è in costante aumento in Italia – solo per fare un esempio, a febbraio 2020 gruppi e canali Telegram segnalati per questo tipo di comportamenti erano appena 17 – e, paradossalmente, la colpa potrebbe essere della copertura mediatica data negli ultimi mesi a vicende come queste, soprattutto se, come fanno notare ancora dall’associazione, testate e giornalisti che lo hanno fatto hanno commesso l’errore di citare esplicitamente o lasciare in chiaro nelle immagini correlate i nomi dei gruppi in questione, rendendoli facilmente trovabili anche al grande pubblico.

pornografia non consensuale in Italia

Uno studio ha rivelato come, nonostante e forse per via dell’attenzione mediatica accesa su di loro, i gruppi e canali Telegram per lo scambio di materiale sessualmente esplicito siano in Italia in costante aumento. Fonte: PermessoNegato

© RIPRODUZIONE RISERVATA E' vietata la ripubblicazione integrale dei contenuti

Resta aggiornato! Ricevi gratuitamente le ultime news e le offerte esclusive per corsi, eventi e libri in ambito marketing e comunicazione.

ISCRIVITI ai nostri canali:

© Inside Marketing 2013 - 2021 è un marchio registrato ® P.iva 09229251211
loading
MOSTRA ALTRI