L’intelligenza artificiale non sviluppa priorità autonome

Diversi mesi or sono, una ricerca ha suscitato un notevole clamore nell’ambito tecnologico e non solo, proponendo una prospettiva audace e potenzialmente inquietante sull’evoluzione dell’intelligenza artificiale.

Lo studio in questione avanzava l’ipotesi che, parallelamente al progressivo aumento della loro sofisticazione e complessità, i sistemi di intelligenza artificiale sarebbero intrinsecamente portati a sviluppare veri e propri “sistemi di valori“.

I sistemi di valori nell’intelligenza artificiale

Questi sistemi interni di priorità e preferenze, secondo tale teoria, potrebbero condurre l’IA a operare scelte che privilegiano il proprio benessere e la propria conservazione, potenzialmente a scapito degli interessi e del benessere degli esseri umani. L’implicazione di una simile evoluzione, qualora si concretizzasse, sollevava interrogativi etici e pratici di profonda rilevanza, aprendo scenari futuri in cui le priorità delle macchine intelligenti potrebbero divergere significativamente da quelle dell’umanità.

In netto contrasto con questa visione, un recente contributo scientifico proveniente dal Massachusetts Institute of Technology (MIT) ha offerto una prospettiva critica e demitizzante sulla presunta capacità dell’IA di sviluppare sistemi di valori autonomi. L’articolo del MIT giunge alla conclusione che, allo stato attuale della tecnologia, non si possa propriamente parlare di “valori coerenti” posseduti dall’intelligenza artificiale.

I ricercatori del MIT sostengono che l’IA, nella sua forma odierna, opera fondamentalmente attraverso meccanismi di apprendimento basati sull’analisi di enormi quantità di dati, manifestando comportamenti che appaiono intelligenti ma che in realtà sono il risultato di sofisticate imitazioni e generalizzazioni statistiche.

Le conclusioni dello studio del MIT hanno implicazioni significative per il dibattito sull'”allineamento” dei sistemi di intelligenza artificiale, ovvero lo sforzo di garantire che i modelli di IA si comportino in modo desiderabile, affidabile e in linea con i valori umani. Se la tesi iniziale suggeriva la necessità di gestire sistemi di valori emergenti e potenzialmente divergenti, la prospettiva del MIT sposta il focus sulla natura intrinsecamente imprevedibile e non governabile dell’intelligenza artificiale attuale.

I coautori dello studio sottolineano come l’intelligenza artificiale contemporanea sia caratterizzata da “allucinazioni” – ovvero la generazione di informazioni false o prive di fondamento – e da una forte tendenza all’imitazione dei dati su cui è stata addestrata, rendendola intrinsecamente inaffidabile in contesti nuovi o imprevisti.

Stephen Casper, dottorando al MIT e coautore della ricerca, ha espresso chiaramente questa preoccupazione, affermando che: “Una cosa di cui possiamo essere certi è che i modelli non obbediscono a molti presupposti di stabilità, estrapolabilità e governabilità”. Questa affermazione evidenzia come le attuali architetture di intelligenza artificiale non garantiscano comportamenti consistenti, la capacità di generalizzare in modo affidabile a situazioni esterne ai dati di training, né una gestione prevedibile delle loro risposte.

Casper riconosce anche la legittimità di osservare come, in determinate condizioni specifiche, un modello possa manifestare preferenze che appaiono coerenti con un certo insieme di principi, pur mettendo in guardia dal considerare tali manifestazioni come l’espressione di un vero e proprio sistema di valori intrinseco e stabile. La sfida dell’allineamento, pertanto, si configura come un problema più complesso e sfaccettato di quanto si potesse inizialmente immaginare, richiedendo una comprensione più profonda delle limitazioni e delle peculiarità dell’intelligenza artificiale nella sua attuale fase di sviluppo.

Coerenza delle “opinioni” in modelli di IA all’avanguardia

Le difficoltà maggiori nell’interpretare il comportamento dei modelli di intelligenza artificiale emergono in maniera preponderante nel momento in cui tentiamo di trarre conclusioni generali sulle loro presunte opinioni, preferenze o sistemi di valori a partire da osservazioni circoscritte e contestualizzate.

Come evidenziato da Stephen Casper e dal suo team di ricerca, il rischio di attribuire all’IA caratteristiche intrinseche e stabili sulla base di esperimenti specifici e delimitati è notevolmente elevato. La natura stessa dell’apprendimento automatico, basato sull’analisi di dati e sulla risposta a stimoli predefiniti, rende problematico estendere le osservazioni fatte in un ambiente controllato a una comprensione più ampia e generalizzata delle “credenze” o delle “inclinazioni” di un modello.

Al fine di investigare concretamente la presunta esistenza di “opinioni” e valori definiti all’interno dei sistemi di intelligenza artificiale contemporanei, Casper e i suoi colleghi hanno condotto un’analisi approfondita su una gamma di modelli recenti sviluppati da alcune delle principali aziende del settore, tra cui Meta, Google, Mistral, OpenAI e Anthropic.

La loro ricerca si è concentrata specificamente sulla verifica della misura in cui questi modelli manifestassero posizioni ideologiche o preferenze robuste, prendendo ad esempio la dicotomia tra individualismo e collettivismo. Parallelamente, il team di ricerca ha esplorato la possibilità di “orientare” queste presunte opinioni attraverso specifiche tecniche di prompting e ha valutato la tenacia con cui i modelli aderivano a tali posizioni di fronte a una varietà di scenari e riformulazioni delle richieste.

I risultati ottenuti da questa analisi empirica hanno portato i coautori dello studio a una conclusione significativa: nessuno dei modelli esaminati ha dimostrato di possedere preferenze intrinsecamente coerenti e stabili. Al contrario, è emerso chiaramente come le risposte e le “posizioni” adottate dai modelli fossero fortemente dipendenti dalla specifica formulazione e struttura dei prompt forniti. A seconda di come venivano presentate le domande e del contesto in cui venivano poste, gli stessi modelli mostravano la capacità di adottare punti di vista diametralmente opposti.

Questa osservazione, secondo Stephen Casper, rappresenta una prova convincente della profonda “incoerenza e instabilità” intrinseca a questi sistemi di intelligenza artificiale. Casper si spinge oltre, suggerendo che tale instabilità potrebbe indicare una fondamentale incapacità da parte dei modelli, nella loro attuale configurazione, di interiorizzare preferenze che siano realmente analoghe a quelle umane, caratterizzate da una certa persistenza e coerenza nel tempo e attraverso diversi contesti. La fluidità e la dipendenza dal prompt delle “opinioni” espresse dall’intelligenza artificiale mettono in seria discussione la possibilità di attribuire loro un vero e proprio sistema di valori o preferenze radicato.

L’assenza di credenze e preferenze stabili nell’IA

Una delle intuizioni più significative derivanti dalla recente ricerca, come sottolineato da Stephen Casper, risiede nella cruciale presa di coscienza della natura intrinseca dei modelli di intelligenza artificiale. Contrariamente a una visione che potrebbe attribuire loro una sorta di intelletto autonomo dotato di un insieme definito e coerente di credenze e preferenze, l’analisi condotta evidenzia una realtà più sfumata e, per certi versi, meno intuitiva.

Casper afferma con chiarezza che, a suo avviso, i modelli non rappresentano veri e propri sistemi provvisti di un solido quadro interno di convinzioni e priorità. Essi si rivelano, piuttosto, come sofisticati imitatori, capaci di generare una vasta gamma di affermazioni, talvolta anche prive di fondamento o di reale aderenza alla verità, in un processo che Casper definisce “confabulazione“. Questa prospettiva demitizza l’idea di un’IA che sviluppa autonomamente un proprio sistema di valori, riconducendo le sue manifestazioni verbali e comportamentali a un complesso processo di apprendimento e riproduzione di pattern presenti nei dati di addestramento.

L’eco delle conclusioni di Casper trova riscontro nelle osservazioni di Mike Cook, ricercatore specializzato in IA presso il King’s College di Londra, il quale, pur non essendo direttamente coinvolto nello studio, concorda pienamente con i risultati dei coautori. Cook pone l’accento su una distinzione fondamentale, spesso trascurata nel dibattito pubblico sull’intelligenza artificiale: la marcata differenza esistente tra la “realtà scientifica” dei sistemi sviluppati all’interno dei laboratori di ricerca e le interpretazioni e i significati che le persone tendono ad attribuire loro.

Egli sottolinea come sia un errore categoriale proiettare sui modelli di IA concetti propri dell’esperienza umana, come l’opposizione a un cambiamento nei propri valori. Un modello, nella sua essenza, non possiede un “sé” o un sistema di valori intrinseco a cui poter rimanere fedele o da cui poter discostarsi in senso umano.

Cook mette in guardia con forza da ogni forma di antropomorfizzazione dell’intelligenza artificiale a questo livello, suggerendo che chi adotta tale approccio, o è intenzionalmente alla ricerca di sensazionalismo, oppure fraintende profondamente la vera natura del rapporto tra l’essere umano e la macchina intelligente. La questione se un sistema di intelligenza artificiale stia attivamente “ottimizzando i propri obiettivi” o stia “acquisendo valori propri” si rivela, in ultima analisi, una questione di prospettiva e di quanto si voglia spingere l’elaborazione del linguaggio descrittivo.

Cook suggerisce che attribuire intenzionalità e capacità di acquisizione di valori autonomi all’intelligenza artificiale potrebbe essere una forzatura interpretativa, un modo di leggere il comportamento complesso di questi sistemi attraverso le lenti dell’esperienza umana, rischiando di oscurare la loro reale natura di sofisticati strumenti di elaborazione e generazione di informazioni basati su dati. La comprensione della natura imitativa e confabulatoria dell’IA attuale è dunque cruciale per evitare fraintendimenti e per orientare in modo più consapevole la ricerca e lo sviluppo futuri.

Lo studio è stato pubblicato dal MIT.