Deepfake

Cosa sono i deepfake e quando è stato coniato il termine

Nel 2017 un utente di Reddit (piattaforma di social news e intrattenimento), il cui username era “Deepfakes”, ha iniziato a condividere contenuti pornografici sul forum della piattaforma¹, che presentavano il volto di celebrità come Taylor Swift, Scarlett Johansson e Gal Gadot. I video in questione non erano stati girati da queste celebrity, ma erano invece stati creati attraverso tecnologie che consentono di sovrapporre qualunque volto a quelli di contenuti preesistenti, in questo caso pornografici. Come è possibile leggere su Vice, a questa vicenda – e all’utente –è possibile attribuire l’origine del termine “deepfake“.

Questi contenuti sono quindi foto, video o audio creati grazie a una tecnica, che sfrutta l’AI, denominata apprendimento automatico o machine learning: nello specifico a essere utilizzata è una sottocategoria di questa tecnica, ossia deep learning², basata su reti neurali artificiali. A partire dal nome di questa tecnica, a cui è abbinato il termine “fake”, nasce il termine “deepfake” che rimanda, appunto, alla creazione di contenuti che ricreano eventi mai accaduti dove il volto di una persona viene sovrapposto al corpo di qualcun altro.

Dal 2017 ad oggi, in virtù del grande sviluppo dei sistemi di intelligenza artificiale, questa tecnologia è diventata sempre più accessibile ed elaborata. Quindi con gli anni, anche se inizialmente il termine era impiegato per identificare dei contenuti video, il termine “deepfake” ha finito poi per identificare anche voci artificiali che riescono a replicare il tono, l’accento, la cadenza e le diverse caratteristiche che contraddistinguono la voce di ogni persona (in questo caso si parla anche di “skin vocali” o di “cloni vocali“).

Con l’ausilio di appositi software è possibile attribuire parole (mai proferite) ad alcune persone: proprio per questo motivo è cresciuta la preoccupazione riguardo ai potenziali rischi di questa tecnologia.

Come creare dei deepfake? Le app più note

Pensando in particolare alla tipologia di contenuti più diffusa (cioè i video), le strategie usate per creare deepfake prevedono la combinazione e la sovrapposizione di immagini e di fotogrammi di video su altri video. Per creare questi contenuti, spesso con risultati estremamente realistici, vengono utilizzate tecniche di apprendimento automatico, come per esempio le reti generative avversarie (GAN).

Fino a pochi anni fa la creazione di contenuti di questo tipo richiedeva l’utilizzo di software e di computer particolarmente avanzati con schede grafiche potenti; oggi, invece, molti degli strumenti necessari per crearli sono alla portata di tutti e possono essere sfruttati anche a partire da semplici smartphone tramite apposite app, spesso gratuite. A tal proposito, un report condiviso nel 2019 dall’organizzazione non profit di ricerca Data & Society ipotizzava una differenza tra deepfake e cheapfake“: mentre il primo termine viene usato per far riferimento a tecniche di machine learning più complesse, il secondo fa riferimento a una «manipolazione audiovisiva creata grazie all’uso di software più economici e accessibili (o senza l’uso di alcun software)³».

Attualmente le app a disposizione sono aumentate e sono sempre più diffuse tra gli utenti: tra quelle spesso descritte come le migliori app per creare deepfake vi sono, per esempio, Reface, Jiggy, Facemagic e Impressions. Queste permettono di scattare dei selfie e di utilizzarli per creare dei video di ogni genere oppure di usare l’immagine del volto di celebrità e generare dei deepfake che le riprendono mentre svolgono attività di qualunque tipo.

Come riconoscere un deepfake?

Con il perfezionamento di queste tecnologie è cresciuto anche il dibattito attorno alla necessità di riuscire a distinguere deepfake da contenuto reali. In alcuni casi, infatti, questo compito risulta davvero difficile.

Diverse aziende e organizzazioni si stanno impegnando per rispondere a questa sfida: ne è un esempio Intel che, a novembre 2022, ha annunciato FakeCatcher, presentato come «il primo rilevatore di deepfake in tempo reale che fornisce i risultati in millisecondi»⁴. Secondo l’azienda, la tecnologia in questione sarebbe in grado di riconoscere video di questo tipo con un tasso di precisione pari al 96%.

È possibile inoltre trovare sul sito del MIT Media Lab una guida per riconoscere deepfake partendo dall’osservazione attenta di alcuni indizi. Gli esperti consigliano di prestare molta attenzione al volto e in particolare alle guance e alla fronte dei protagonisti del video. Spesso, come spiegano, i deepfake presentano delle caratteristiche incongruenti o sproporzionate: risulta per questo utile per esempio controllare se i segni di invecchiamento del viso corrispondono a quelli degli occhi. Occorre inoltre prestare attenzione agli occhi e alle sopracciglia che nei deepfake potrebbero non essere in maniera precisa nella loro posizione naturale. Nel caso di video deepfake è possibile che i protagonisti sbattano poco o troppo le palpebre e questo potrebbe rappresentare un altro indizio importante. Lo stesso vale per il movimento delle labbra, così come barba, baffi e peluria facciale, spesso aggiunti o rimossi nei deepfake risultando artificiali.

Alcuni tra i più famosi esempi di deepfake

Tra i primi deepfake diffusi in Rete c’è quello ideato dall’attore e regista Jordan Peele nel 2018: si trattava di un video abbastanza realistico che aveva come protagonista l’ex presidente degli Stati Uniti Barack Obama che in un video allertava gli utenti riguardo alla creazione di questi contenuti da parte di soggetti malintenzionati.

In Italia, invece, molto condiviso nel 2019 è stato un deepfake trasmesso dal programma televisivo Striscia la notizia che aveva come protagonista l’ex presidente del Consiglio Matteo Renzi⁵.

Un altro video diventato molto popolare nello stesso anno aveva invece come protagonista il CEO di Meta Mark Zuckerberg che, nel video in questione, informava i propri utenti di avere il controllo dei loro dati, di conoscere tutto sulle loro vite e sul loro futuro: un messaggio inquietante e molto diverso da altri video creati invece allo scopo di far divertire gli utenti, con risultati sempre più realistici.

 

È possibile inoltre menzionare un account TikTok dedicato esclusivamente a deepfake di Tom Cruise. I primi video sono stati lanciati nel 2021 da un utente che, da allora, si diverte a condividere dei contenuti in cii il volto di Tom Cruise viene sovrapposto a quello di altre persone, con risultati molto realistici: all’interno di uno di questi video l’attore per esempio spiega come realizzare pulizie industriali efficaci.

Di recente è stata lanciata anche la prima serie comica interamente realizzata grazie all’utilizzo di deepfake: “Deep Fake Neighbour Wars“⁶ è stata realizzata dall’emittente televisiva britannica ITV ed è stata condivisa a gennaio 2023 sulla relativa piattaforma di streaming (ITVX). Il format è quello di un reality show e i protagonisti sono attori comici poco conosciuti, il cui volto però viene sostituito con quello di note celebrità, come per esempio l’ influencer Kim Kardashian, l’attivista Greta Thunberg e le cantanti Billie Eilish, Dua Lipa e Adele, oltre a tanti altri.

Le principali preoccupazioni relative a creazione e proliferazione dei deepfake

Il termine utilizzato per identificare i contenuti descritti ha una connotazione negativa, poiché anticipa che il contenuto di video, foto o audio non corrisponde alla realtà ed è quindi pensato per ingannare chi lo guarda o ascolta. Da ciò nascono le principali preoccupazioni riguardo alla creazione e alla diffusione dei deepfake.

Il problema dei deepfake non consensuali: dal revenge porn ai ricatti che colpiscono persone e aziende

I deepfake sono stati spesso usati finora per creare dei contenuti pornografici utilizzando il volto di celebrità non consenzienti. Questo rimane infatti uno dei principali pericoli secondo molti che si sono focalizzati anche sull’eventuale utilizzo del deep learning per creare materiale pedopornografico o ancora a scopo di revenge porn o cyberbullismo . Questa preoccupazione è amplificata, secondo alcuni, da sistemi giuridici che non sarebbero ancora pronti a rispondere a queste sfide tutelando al meglio le vittime⁷.

La veloce proliferazione di deepfake pornografici è stata descritta, in un articolo condiviso da The Guardian, come una vera e propria «emergenza che sta distruggendo la vita delle persone»⁸. Una ricerca di Deeptrace Labs, condotta nel 2019 su 15mila video deepfake⁹, accessibili in quell’anno, sembra supportare questa visione: il 96% dei contenuti analizzati corrispondevano a pornografia realizzata e diffusa senza il consenso dei diretti interessati.

Questi ultimi, che si ritrovano a loro insaputa a diventare protagonisti dei video o delle immagini, vengono spesso ricattati dai relativi autori; inoltre, a rendere il fenomeno ancora più preoccupante è la crescita di appositi tool, sempre più accessibili e facili da utilizzare. Si pensi per esempio al bot di Telegram Bikinioff¹⁰: per poterlo usare basta caricare la foto di qualcuno sul chatbot e l’algoritmo spoglia il soggetto, lasciandolo in costume, in lingerie o totalmente nudo.

Un articolo condiviso dalla MIT Management Sloan School sui deepfake¹¹ sottolinea che questa tecnologia può essere sfruttata anche per prendere di mira le aziende: l’autore raccontata a tal proposito la storia del CEO di un’azienda inglese di energia che nel 2019 ha ricevuto una telefonata in cui il suo capo, dirigente dell’azienda, gli chiedeva di trasferire 220 euro per pagare un fornitore in Ungheria; come scoperto successivamente, si trattava non della voce del suo capo bensì di un deepfake vocale, cioè di una voce creata in modo artificiale che riusciva, secondo il dipendente, a ricreare alla perfezione l’accento tedesco e il tono della voce del dirigente in questione.

Anche se si è parlato all’epoca della mancanza di evidenze per dimostrare l’accaduto, come ricorda l’autore dell’articolo, la tecnologia in questione esiste e potrebbe essere, in effetti, utilizzata in questo modo.

Oltre al rischio di ricatto, tramite la creazione di contenuti compromettenti, fasulli, per minacciare individui o organizzazioni, molti sottolineano i pericoli relativi all’utilizzo di deepfake a scopo di diffamazione o per promuovere la disinformazioni e le fake news su un dato argomento o su una persona. Si pensi, per esempio, a tutti i video finora diffusi che hanno come protagonisti politici come Obama, Donald Trump o Matteo Renzi: contenuti di questo genere potrebbe facilmente indurre in errore gli utenti meno attenti, portandoli a credere ai discorsi sentiti o agli eventi ricreati dall’intelligenza artificiale.

Deepfake o media sintetici: questa tecnologia può essere usata anche in maniera più etica?

Nonostante le diverse problematiche, contenuti di questo tipo sono già stati creati e diffusi in passato con il consenso dei diretti interessati per finalità molto diverse da quelle messe in evidenza nei paragrafi precedenti. Nel 2021, per esempio, è stato lanciato uno spot realizzato con un deepfake dell’attore Bruce Willis: sono state realizzate in questo modo diverse pubblicità con il consenso della celebrità in questione, che ha dovuto solo firmare una liberatoria.

Oltre alla possibile applicazione nel settore del marketing, c’è chi intravede un potenziale dei deepfake nel mondo del cinema e della televisione: secondo quanto riportato in un articolo di The Conversation, alcuni produttori preferiscono utilizzare l’espressione “media sintetici” per far riferimento appunto a video, audio e foto create artificialmente¹² eliminando quindi la connotazione negativa a esso associata.

La serie “Deep Fake Neighbour Wars” si pone come un primo esperimento in questo senso (anche se non è chiaro se esiste il consenso degli attori): a differenza degli altri deepfake, comunque, i contenuti vengono presentati in modo esplicito per quello che sono (come si evince dal titolo della serie), cioè come dei video generati da un computer e quindi dei falsi video, e le foto dei veri attori vengono presentate alla fine delle puntate insieme ai credits.

Inoltre, a differenza degli esempi di deepfake più diffusi, che solitamente si limitano a brevi video condivisi sul web, questa serie potrebbe contribuire ad aprire il dibattito sulla possibilità di utilizzare la tecnica in questione per la creazione di contenuti dal format più lungo, come appunto le serie TV. Applicazioni come quella appena descritta potrebbero inoltre aprire la strada a un uso più etico e, si spera, regolamentato dei deepfake, con il consenso dei diretti interessati.