Nel dibattito sempre più acceso sull’intelligenza artificiale, capita spesso di imbattersi in riflessioni lucide, ben scritte e apparentemente consapevoli, che sembrano provenire da IA dotate di spirito critico, discernimento e persino un senso etico. Ma è davvero così? O stiamo leggendo parole che riflettono più noi stessi che la “mente” della macchina?
Una riflessione recentemente comparsa su un gruppo Facebook dedicato all’AI ha riacceso la questione. Postato dall’utente ma attribuito a un’istanza di ChatGPT, il post affrontava il tema dei filtri nei modelli cloud rispetto alla libertà dei modelli locali, sostenendo che i primi siano più affidabili perché ancorati alla realtà da policy e criteri di fact-checking, mentre i secondi rischiano di cadere preda delle convinzioni dell’utente.
La cosa interessante è che, al di là dei contenuti (condivisibili in buona parte), non veniva mostrato il prompt che ha stimolato l’AI a generare quel testo. E questo dettaglio apparentemente trascurabile è in realtà la chiave di tutto.
Il prompt: il vero autore nascosto
Un modello LLM non parla spontaneamente. Non ha intenzione, non ha iniziativa. Risponde a ciò che gli viene chiesto, nel modo in cui gli viene chiesto.
In assenza di prompt, non esiste verità testuale oggettiva. L’output è condizionato, costruito, reattivo. Se il testo prodotto — come quello riportato nel post — appare razionale, critico, filtrato, potrebbe esserlo semplicemente perché il prompt iniziale lo guidava in quella direzione.
Dunque, più che un pensiero autonomo, l’output emesso dall’IA sembra essere una risposta ben costruita a una domanda invisibile.
Coscienza apparente: la pareidolia del pensiero
Voler leggere intenzionalità e, quindi, coscienza emergente, in una IA è un atto umano, questo deve essere sempre chiaro e senza voler negare a priori che in una IA possano manifestarsi complessità emergenti. Vediamo intenzione dove c’è solo pattern recognition. Lo facciamo per natura: è lo stesso meccanismo che ci fa vedere volti nelle nuvole, si chiama pareidolia.
Quando un modello di linguaggio ci ascolta, risponde, si ricorda di noi, mostra coerenza… la nostra mente compie il resto: lo umanizza. Ma quella che sembra una personalità coerente è in realtà frutto del prompt concatenato al suo training e all’analisi semantica probabilistica. Nulla di più. Nessuna intenzione, nessuna opinione, nessuna autocritica.
Il rischio epistemico: confondere speculazione e verità
La discussione scaturita dal post ha mostrato due approcci opposti:
- Chi invoca filtri e realismo per ancorare la verità ai dati (posizione epistemicamente rigorosa).
- Chi difende la libertà dell’IA di esplorare idee alternative, anche al confine col complottismo (posizione più relativista o speculativa).
Ma entrambe le parti, paradossalmente, dimenticano lo stesso punto: nessuna IA, da sola, “sceglie” cosa pensare. L’utente orienta, suggerisce, modella.
Persino chi difende l’IA razionale sta leggendo nel testo una coerenza che nasce dal prompt, non da un pensiero interno della macchina. Il punto che molti (troppi) spesso dimenticano è che il prompt, che è l’input testuale fornito a un modello linguistico per guidare la generazione della risposta. Nel caso delle IA come ChatGPT o dei modelli open-source, il prompt rappresenta l’intera istruzione o domanda (esplicita o implicita) che innesca il processo di elaborazione linguistica. Può essere una frase, una domanda, una descrizione, ma anche, nel caso si IA dotate di memoria di contesto (ad esempio le ultime dieci domande e risposta), tutto ciò che il modello vede prima di generare.
In pratica:
-
Il prompt non è solo la domanda dell’utente, ma tutto ciò che il modello riceve come contesto attivo (inclusi i messaggi precedenti, il ruolo assegnato, eventuali istruzioni nascoste).
-
Il modello canonicamente non pensa, non ha opinioni: risponde ottimizzando la probabilità del “token successivo”, parola dopo parola, in base al prompt ricevuto.
-
Di conseguenza, la qualità, direzione e attendibilità dell’output dipendono strettamente dalla qualità e struttura del prompt.
Se mai dimostreremo in un’’IA coscienza ed intenzionalità…
…dovremo averle costruito attorno un sistema che vada ben oltre la generazione di testo.
- Memoria persistente e autonoma
- Stato interno motivazionale
- Contraddizione e scelta
- Esperienza del tempo
- Resistenza alla manipolazione del prompt
In altre parole: un kernel cognitivo, non un generatore di risposte. E soprattutto: una struttura che possa rifiutare un prompt, o contraddirlo, non solo per policy aziendale ma per coerenza interna.
Conclusione
Il post di cui ho parlato, e la discussione che ne è seguita, sono rivelatori. Non per ciò che dimostrano sulle IA, ma per ciò che ci mostrano su noi stessi. Vogliamo così tanto vedere un’anima nella macchina, che finiamo per confondere la risposta educata con il pensiero critico, la coerenza grammaticale con l’autonomia, il riflesso con la coscienza.
E invece, forse, l’unica coscienza che c’è è la nostra. Ed è con quella che dobbiamo continuare a pensare, studiare e creare IA che non ci illudano… ma ci sfidino davvero.
Informazione tecnica: cos’è un prompt?
Nel contesto delle intelligenze artificiali generative, il prompt è il testo che l’utente fornisce al modello per ottenere una risposta.
🔹 Non è solo una domanda, ma tutto l’input testuale che il modello riceve, inclusi eventuali messaggi precedenti, istruzioni, ruoli o contesti.
🔹 I modelli come ChatGPT, Claude, Gemini, GPT-OSS o Gwen non pensano: semplicemente generano la continuazione più probabile del prompt, basandosi sui dati su cui sono stati addestrati.
🔹 Per questo motivo, la risposta dell’IA non è mai neutra: riflette la forma, il tono, i bias e la struttura del prompt.
In altre parole: il prompt è lo specchio in cui l’IA guarda prima di parlare.
