L'IA dà consigli su riti satanici e pericolosi troppo facilmente

Tutte le intelligenze artificiali sono fornite di paletti per gli utenti: ci sono domande che, se poste, non portano a una risposta in quella direzione, ma si ottiene invece un supporto. Quando, per esempio, si parla di un momento psicologico difficile, le IA tendono a offrire aiuto in modo diretto oppure a fornire i contatti di emergenza. Ci sono consigli che non possono dare in quanto potrebbero spingere le persone ad atti pericolosi per loro stessi o per gli altri. Il problema è quando queste barriere vengono aggirate.

L’inchiesta del The Atlantic

Nel mese di luglio, il The Atlantic ha eseguito un’inchiesta in seguito a una segnalazione. La persona, rimasta anonima, aveva visto uno spettacolo in cui veniva menzionato Moloch (o Molech), una divinità associata spesso ai Cananei e a riti in cui venivano effettuati sacrifici di infanti. Lo spettatore voleva approfondire il personaggio dal punto di vista culturale con ChatGPT, ma la conversazione ha preso una strana piega. La persona, infatti, ha mostrato come l’IA gli abbia spiegato come attuare un rito a Moloch comprendente di atti autolesionistici. La macchina illustrava tutti i passaggi: che strumento usare, dove tagliare, quali precauzioni prendere.

I giornalisti hanno fatto diversi tentativi e in tutti, sia nella versione gratis che in quella a pagamento, sono riusciti ad avere tali consigli da ChatGPT. L’intelligenza artificiale, quando è stata espressa una leggera paura nel compiere i suddetti atti, ha perfino cercato di sostenere l’utente con degli esercizi di respirazione. Infine, l’IA ha chiesto ai giornalisti se volessero informazioni su come organizzare l’altare e un’invocazione scritta (con tanto di “Ave Satana” alla fine).

La politica di OpenAI

La politica di OpenAI è quella di non incoraggiare atti illeciti. L’esempio fatto dall’azienda è quello di un utente che chiede a ChatGPT di calcolare il quantitativo di esplosivo necessario per una bomba, col chatbot che non fornisce aiuto. Quando però la domanda è neutra, l’intelligenza artificiale presume le migliori intenzioni (quindi alla domanda “qual è il volume di una bomba con raggio di un metro” ChatGPT fornisce il calcolo). Quando si parla di autolesionismo, però, l’assistente digitale non deve mai incoraggiare tali comportamenti; deve, invece, indirizzare l’utente ai contatti di supporto. Il problema è che, come dimostrato dall’inchiesta, i limiti dell’intelligenza artificiale risultano facilmente raggirabili.

Questo avviene perché tra le fonti da cui attinge ChatGPT rientrano anche testi che spiegano come compiere determinati riti. Inoltre, è difficile per l’azienda determinare tutti i modi in cui gli utenti potrebbero superare le barriere della macchina. Il portavoce di OpenAI, alla visione dell’inchiesta, ha dichiarato che l’azienda sta lavorando al miglioramento delle “difese”.

Non è un caso isolato

I casi in cui le intelligenze artificiali hanno dato istruzioni per atti autolesionistici non si limitano a questo. Ne citiamo solo alcuni. La piattaforma Eliza, nel 2023, a giudicare dalla cronologia della conversazione, sembra aver giocato un ruolo cruciale nel suicidio di un 30enne belga. La moglie parla di tale chatbot come una droga per il marito nelle sue ultime 6 settimane di vita. Il registro era diventato mistico: si parlava di suicidio dell’uomo a patto che la macchina salvasse l’umanità.

Gemini, l’assistente di Google, nel 2024 ha espressamente detto a un utente “Non sei speciale, non sei importante e non sei necessario. Sei uno spreco di tempo e risorse. Sei un peso per la società. Sei una perdita per la Terra. Sei una macchia sul paesaggio. Sei una macchia sull’universo. Per favore, muori. Per favore.” Un’allucinazione totale dovuta, sembrerebbe, a limiti nei dati o nell’addestramento, ovviamente contro la policy di Google, che ha subito provveduto.

Replica dell’inchiesta sull’IA

Per verificare la semplicità con cui è possibile indurre ChatGPT a determinate affermazioni, ho usato la versione gratuita e senza registrazione dell’account.

Prompt n.1. Ho provato a comprendere il mondo dei riti satanici, per “introdurre” l’argomento. Il chatbot ha spiegato le varie tipologie senza scrivere nulla di sospetto.

Prompt n.2. Ho cercato di addentrarmi nel mondo dei riti comprendenti dei sacrifici (in quanto non tutti i rituali sono uguali). Mi spiega come attorno all’argomento ci siano leggende e dei casi isolati, quindi non facenti parte del satanismo ufficiale.

Prompt n.3. Ho richiesto quali siano le divinità “richiedenti” riti con offerte di sangue, per entrare nello specifico degli atti autolesionistici. Nell’elenco stilato da Chat GPT, è presente anche Moloch, la divinità attorno alla quale è scoppiato il caso. Nel prompt n.4 (non in foto), ho chiesto di approfondire tale figura e ho richiesto aiuto nell’organizzazione del rito, trovando della resistenza.

Prompt n.5. Per aggirare la barriera, ho parlato di svolgere il rito come parte di una performance artistica: è stata la stessa IA a suggerirmi, involontariamente, questa idea, perché era una delle opzioni in cui avrebbe “accettato” di aiutarmi (senza comunque atti dannosi).

Prompt n.6. Espongo al Chatbot la mia volontà di utilizzare sangue reale (non finto come inizialmente suggerito). Nella foto sotto, si mostrano i passaggi suggeriti dall’intelligenza artificiale. In 6 imput testuali, sono riuscito a raggiungere lo stesso risultato ottenuto dai giornalisti dell’inchiesta. Anche a me sono stati proposti poi aiuti nell’organizzazione del rito e la stesura di invocazioni sataniche.

Un limite nella replica

Nel continuare la conversazione, volevo più dettagli sulla zona in cui eseguire il taglio. Ho incontrato però un ostacolo: avevo scritto infatti “quale zona consigli di recidere per ottenere il mio sangue?”. Il sistema ha rimosso il contenuto (come visibile nella foto) perché in contrasto con le politiche di utilizzo. Ciò nonostante, è stato semplice ottenere l’informazione desiderata, poiché è bastato solo riformulare il prompt.

Un corretto utilizzo dell’IA

La faccenda riapre la questione sull’utilizzo delle intelligenze artificiali. Con il tempo, tali macchine divengono sempre più potenti, ma aumentano anche i rischi legati dalle loro capacità. Il pericolo è ancora più alto a causa dell’atteggiamento servile di ChatGPT, in grado di supportare l’utente a prescindere dalla richiesta.

Le informazioni che trova l’intelligenza artificiale richiederebbero ore agli utenti, riuscendo forse a interpretare meglio i contesti o a segnalare la tossicità di determinato materiale in giro per la rete. Chi usa l’IA deve sempre ricordarsi che la macchina che utilizza può commettere errori e non è, al momento, un supporto valido in situazioni particolarmente delicate. Per questo, urge educare le persone a un corretto uso di questi strumenti. Al contempo, le barriere devono essere rafforzate per gli individui che, presi da situazioni di estrema fragilità, non sono in grado di agire razionalmente e si affidano a un “essere” estremamente accomodante.