Non riconosciamo le foto create con l'AI e non è un bene

I progressi fatti dall’intelligenza artificiale hanno fatto sì che le immagini create con essa siano davvero realistiche. Il livello raggiunto, però, desta preoccupazione. Il fenomeno del deepfake, ossia la creazione di immagini e video da parte delle intelligenze artificiali attraverso l’uso di materiale multimediale preesistente, ha portato a un aumento delle fake news e delle truffe. Ciò avviene perché i contenuti generati dall’AI sono sempre più realistici e noi, forse, sempre più distratti.

Il caso del ristorante Ethos

Apri Instagram. Hai messo un “mi piace” a una foto con un bel piatto ieri, quindi anche oggi vedrai nuovi post con altri cibi favolosi. Ti imbatti in un locale di Austin, Texas, e vedi un panino davvero invitante: il “Crab Rangoon Burger”. Leggi la descrizione, trovi anche gli ingredienti che lo rendono speciale: i wonton fritti, ripieno di granchio e la salsa agrodolce a legare il tutto.

Ti incuriosisce questo profilo e decidi di vedere altri contenuti. Una serie di piatti magnifici ti travolge e, nonostante tu abbia intravisto qualche prodotto decisamente insolito, decidi di prenotare. Nella biografia del profilo trovi il link che ti porta al sito ufficiale. Aperta la piattaforma, sei accolto da una presentazione del locale molto avvincente: sostenibile, integrato con le realtà locali, creatività in cucina. Ti sposti nella sezione “Prenotazioni” e leggi: “Tutte le prenotazioni vengono attivate dalle 4:30 del mattino il primo lunedì di ogni mese”. Stranito, decidi di verificare la disponibilità, e arriva la conferma del brutto presentimento: nessuna prenotazione, nessun locale. Solo un video di un uomo preso a schiaffi da un’anguilla.

Ritorni, sconsolato, al profilo Instagram, e ti soffermi sui post. Realizzi che, forse, il croissant a forma di dinosauro è una creazione decisamente troppo complessa per essere reale.

Tutte le foto sono realizzate con l’intelligenza artificiale. I piatti sono bellissimi, scenografici. Le ambientazioni, seppur a volte sfocate, sono graziose. Scorrendo nel profilo, scopri che addirittura Jeff Bezos, fondatore di Amazon, è stato nel locale. O, forse, un fratello gemello a noi nascosto.

Con un’analisi non molto approfondita, ci si rende conto che l’immagine sia stata realizzata con l’AI: una pelle liscissima in volto, ma due occhi sproporzionati e una mano sinistra, in tasca, con decisamente troppe grinze. Le immagini con l’intelligenza artificiale hanno, quasi tutte, una sorta di patina, un contorno che una foto reale non avrebbe. Nel post, Jeff Bezos viene presentato come un amico di uno degli chef, ma il profilo dell’imprenditore americano non viene menzionato.

Perché creare un profilo del genere?

La pagina social è ben curata, con tanto di stories, post pubblicati con costanza e un sito che non lascia presagire nulla. Perché creare un simile profilo? Risalire al creatore (o ai creatori) sembra impossibile, quindi possiamo solo supporre. Prima di tutto, dato il video dell’uomo schiaffeggiato, deduciamo che sia uno scherzo. Nella piattaforma, però, c’è anche una sezione dedicata al “Merchandising”. Incredibilmente, l’unica sezione in cui i prodotti sono, a quanto sembra, reali. Magliette e quadri sempre a tema cibo. La t-shirt con la scritta “Unreal flavors”, ossia “gusti irreali”, ha il sapore di presa in giro. Quindi, forse, tutto il profilo ha il solo scopo di lucro tramite lo shop online.

I pericoli delle immagini create dall’AI

Questo del locale è uno scherzo e una mossa di marketing intelligente. Il problema è quando si usa l’AI per creare immagini con l’intento di truffare. Recenti sono le foto della bambina su una barca, pubblicizzata per mostrare i disastri dell’uragano Helene. Una bimba impaurita con il suo cucciolo in mano. Capiamo che sono finte per delle incongruenze tra loro (la barca cambia colore) e per dei dettagli come il colore del cane o un dito decisamente innaturale nella mano che lo regge.

L’esempio del locale serve per mostrare che molte persone, nonostante sia ancora possibile distinguere le foto reali dalle false (la maggior parte), pensano che tutti i contenuti visti online siano reali. Ciò accade perché non si conoscono i tratti che ancora contraddistinguono i prodotti dell’AI e perché siamo osservatori poco attenti. Tendiamo ancora a credere a qualsiasi notizia e a qualunque immagine.

Il danno va oltre la semplice disinformazione. Con la bambina, lo spettatore reagisce, donando immediatamente o quantomeno simpatizzando con essa. Da adesso, con la continua fuoriuscita di contenuti apparentemente veri e rivelatisi poi falsi, le persone diventeranno sempre più diffidenti, quindi sottoporranno ogni foto a un’analisi. Questo controllo stancherà e, semplicemente, eviteremo di verificare ogni singola foto. Prima o poi, troveremo un’immagine reale di persone che necessitano aiuto, e noi continueremo a scorrere il dito sul nostro telefono in maniera distratta.