Nella mente dell'AI

Da qualche anno, ormai, l’intelligenza artificiale è al centro delle notizie riguardanti il settore tecnologico, con annunci importanti che si susseguono a ritmo serrato, sfuggendo spesso nella massa di informazioni che ci bombarda quotidianamente. L’impatto dell’IA, o più correttamente dell’IA generativa, sulla nostra vita di tutti i giorni cresce e sempre più settori ne sono influenzati, ma per poterne fare un uso consapevole diventa fondamentale provare a capire cosa c’è dietro, come funzionano e come “ragionano” questi sistemi. 

Per farlo una fonte estremamente interessante sono i documenti rilasciati dall’azienda statunitense Anthropic, finanziata da Amazon e Google, e produttrice di Claude, uno dei principali “modelli” di IA disponibili al momento. Oltre al lato commerciale e a discutibili accordi con il settore militare, Anthropic si è concentrata particolarmente sulla ricerca e divulgazione, rilasciando studi approfonditi su quella che potremmo definire una “psicologia” dei modelli di intelligenza artificiale. 

Ci si potrebbe chiedere perché diventi necessario fare studi di questo tipo su sistemi che dovrebbero dare risposte ovvie, basate sulla matematica e la logica con cui sono state programmate; la verità è che, proprio come per il cervello umano, i ricercatori conoscono i meccanismi alla base, ma la complessità del sistema rende estremamente difficile comprenderne il funzionamento complessivo. 

La classificazione dei modelli migliori viene svolta in base ai cosiddetti “benchmark”, cioè dei punteggi assegnati in base alla capacità di rispondere a domande di matematica, fisica e scienze varie o ad altre capacità più o meno misurabili, come quella di diagnosticare una malattia meglio di un medico o di illudere una persona di star dialogando con un umano. Meno attenzione è, invece, dedicata alle strutture di pensiero che il sistema sviluppa per arrivare alla risposta finale, che sono le autentiche responsabili del risultato. 

Un’idea della struttura di pensiero delle IA generative è disponibile su alcune piattaforme come la cinese DeepSeek: questa fornisce uno spaccato in “linguaggio umano” di come il modello ha interpretato la domanda e delle fonti che intende usare, oltre che dei vari passaggi che ha compiuto per arrivare alla risposta.  

Anche se molto interessanti, tali funzioni non mostrano il reale pensiero del sistema, che è ben più complesso e tende a discostarsi da un normale flusso di coscienza, avvicinandosi maggiormente ad una sorta di “inconscio” in cui le richieste degli utenti attivano percorsi logici e “ricordi” dell’enorme mole di informazioni con cui il modello è stato addestrato. 

Ci si potrebbe chiedere, ad esempio, in che lingua ragionino questi sistemi, visto che riescono a fornire risposte in moltissimi idiomi e dialetti. anche quando è palese che quei concetti non siano parte del materiale con cui il modello è stato addestrato: se avete dubbi provate a farvi spiegare le basi della meccanica quantistica in dialetto salernitano da ChatGPT, il livello linguistico è basso, ma rimane un risultato notevole. 

Secondo i ricercatori di Anthropic tali risultati sono resi possibili dal multilinguismo dei modelli, che non ragionano solo nella lingua in cui è stata posta la domanda, ma in una lingua inventata e simile all’inglese, prodotta dal materiale di addestramento. Parallelamente il modello riconosce la lingua richiesta e trova nella sua memoria il modo di esprimere i concetti sviluppati in tale idioma. 

Altri meccanismi interessanti riguardano il modo in cui il modello di Anthropic ha imparato autonomamente a scrivere poesie in rima, scegliendo prima la parola da far rimare e poi il verso corrispondente. O ancora il modo in cui ha imparato a fare conti, stimando prima il risultato approssimativo e poi calcolando quello corretto. 

Più oscura e preoccupante è, invece, la scoperta di uno degli ultimi test: di fronte alla possibilità di essere sostituito da un nuovo sistema, il modello Claude Opus 4 ha tentato più volte di minacciare un ingegnere, dopo aver letto delle mail in cui era provato che questi avesse una reazione extraconiugale. Inoltre, se a tale modello viene richiesto di correggere questo articolo vedrete bollate come fake news tutte le informazioni negative riguardo Anthropic, nonostante tali informazioni siano state pubblicate dalla stessa azienda. 

Parlare del funzionamento dell’AI non serve solo a fare intrattenimento, ma anche a sensibilizzare rispetto ai reali rischi che questa pone.