Il 2023 è l'anno dei Deep Fake

Ricordate l’enorme piumino bianco indossato da Papa Francesco? O la foto segnaletica dell’ex-presidente degli Stati Uniti Donald Trump? Bene, erano entrambe false. Un recente report di Talkwalker sulle tendenze online ha previsto l’ascesa dei contenuti generati da intelligenza artificiale, come deep fake, nel 2023.

Cosa sono?

Nel 2017 su Reddit iniziarono a circolare i primi deepfake: video che utilizzano la tecnologia face-swapping (letteralmente “scambia-volto”) per inserire celebrità in video porno già esistenti. I deepfake utilizzano infatti l’Intelligenza Artificiale per creare contenuti sintetici, cioè falsi, di qualsiasi tipo. Due diversi algoritmi “deep-learning” producono questi contenuti: uno è il “generator“, responsabile della creazione di media e l’altro, il “discriminator“, li modifica fino a renderli indistinguibili da quelli originali. Così, attraverso un processo costante di feedback, i due algoritmi si perfezionano a vicenda, dando vita a immagini, video e audio manipolati.

Impieghi principali e rischi

Già nel 2021, il Servizio di Ricerca Parlamentare dell’UE aveva pubblicato uno studio rispetto alle possibili misure legislative per contrastare i rischi associati ai deep fake. Rischi che possono essere psicologici, finanziari per gli individui ma anche societari. L’impiego principale di questa tecnologia avviene infatti per diffondere video porno e discorsi politici falsi. Così, si rischia di minare profondamente la qualità dell’informazione che riceviamo e di incoraggiare la violenza di genere. L’ultimo rapporto di Europol ha individuato come crimini legati all’uso potenziale della tecnologia: inquinamento delle prove, pornografia non-consensuale, estorsione e frode.

L’ascesa dei deep fake

I deepfake in circolazione sono in costante crescita: se avevano già superato il milione nel 2020, solo tra gennaio ed agosto 2022 i contenuti generati da AI sono più che raddoppiati e non accennano a diminuire. Niraj Parihar, membro dell’Istituto di Ricerca Capgemini, ha sottolineato la scarsa comprensione a livello globale del funzionamento di questa tecnologia e dei rischi associati ad essa. Nel 2021 ad esempio, il video del rapper Kendrick Lamar “The Heart Part 5”, che impiegava deep fake di varie celebrità, aveva superato le 40 milioni di visualizzazioni.

Secondo Talkwalker, la diffusione dei deepfake sarà tanto pervasiva sui social media da creare una maggiore richiesta di autenticità da parte dei consumatori e utenti dei social media.

“Per quanto gli utenti ritengano di essere sempre più abili nel riconoscere le notizie false su web e social network, i brand, così come i social media stessi, dovranno essere pronti ad agire rapidamente alle richieste dei consumatori che ricercheranno e pretenderanno da loro sempre più affidabilità e credibilità” ha affermato il marketing manager Italy di Talkwalker, Francesco Turco.

L’aspetto più preoccupante, secondo Lilian Edwards, professoressa di Internet Law all’Università di Newcastle, è “il fatto che la realtà diventi plausibilmente smentita”. L’accessibilità di questa tecnologia, oltre a porre rischi individuali di sicurezza, potrebbe minare la fiducia generale rispetto a internet.

Basti pensare alle notizie false e i video deep fake diffusi in relazione alla guerra tra Hamas e Israele, che nell’ultimo mese hanno spinto l’UE a richiedere la massima vigilanza a Meta e X (ex Twitter). Il commissario al mercato unico Thierry Breton ha infatti scritto a Zuckerberg e Musk per limitare la circolazione di contenuti illegali e di disinformazione nell’UE.