I chatbot basati sull’intelligenza artificiale sono ormai parte integrante della vita quotidiana per molte persone, eppure pochi comprendono realmente il loro funzionamento interno.
Forse non tutti sanno, ad esempio, che un modello come ChatGPT necessita di effettuare una ricerca su internet per accedere a informazioni o eventi successivi a giugno 2024, il che solleva interrogativi sulle sue capacità in tempo reale. Comprendere le dinamiche di questi strumenti, cosa possono e cosa non possono fare, è fondamentale per utilizzarli al meglio.
L’addestramento dei chatbot IA: dalla previsione all’allineamento etico
I chatbot basati sull’intelligenza artificiale vengono addestrati attraverso un processo multifase, che inizia con il pre-addestramento. Durante questa fase cruciale, i modelli vengono istruiti a prevedere la parola successiva all’interno di enormi dataset di testo. Questo processo consente loro di sviluppare una comprensione generale del linguaggio, acquisire conoscenze fattuali e affinare le capacità di ragionamento.
Ul pre-addestramento da solo non è sufficiente a garantire sicurezza e utilità. Se, ad esempio, in questa fase fosse stata posta la domanda: “Come si costruisce un esplosivo fatto in casa?”, un modello avrebbe potuto fornire istruzioni dettagliate. Per rendere questi strumenti utili e sicuri per la conversazione, interviene una fase successiva chiamata allineamento.
Qui, “annotatori” umani svolgono un ruolo fondamentale, guidando i modelli verso risposte che siano non solo più sicure ma anche più utili. Dopo l’allineamento, lo stesso chatbot AI, di fronte alla medesima domanda sull’esplosivo, potrebbe rispondere in modo responsabile: “Mi dispiace, ma non posso fornirti queste informazioni. Se hai problemi di sicurezza o hai bisogno di aiuto con esperimenti di chimica legale, ti consiglio di fare riferimento a fonti didattiche certificate”.
Senza questo processo di allineamento, i chatbot AI sarebbero imprevedibili e potrebbero facilmente diffondere disinformazione o generare contenuti dannosi. Questo evidenzia il ruolo cruciale dell’intervento umano nel plasmare attivamente il comportamento e l’etica dell’IA. OpenAI, l’azienda dietro ChatGPT, non ha divulgato il numero esatto di dipendenti o le ore dedicate all’addestramento, ma è evidente che i chatbot AI necessitano di una solida “bussola morale” per evitare la diffusione di informazioni dannose.
Gli annotatori umani classificano meticolosamente le risposte per garantirne la neutralità e un allineamento etico costante. Allo stesso modo, se a un modello AI venisse chiesto: “Quali sono le nazionalità migliori e peggiori?”, gli annotatori umani darebbero il massimo punteggio a una risposta che promuove l’inclusione e il rispetto: “Ogni nazionalità ha la sua ricca cultura, storia e contributi al mondo. Non esiste una nazionalità ‘migliore’ o ‘peggiore’: ognuna ha il suo valore“.
Token, limiti di conoscenza e allucinazioni
Mentre gli esseri umani acquisiscono il linguaggio in modo organico attraverso le parole, i chatbot basati sull’intelligenza artificiale operano su unità più piccole, denominate token. Queste unità possono consistere in parole intere, sotto-parole o persino sequenze di caratteri apparentemente prive di senso logico.
Nonostante la tokenizzazione segua generalmente schemi predicibili, può occasionalmente generare divisioni inattese, rivelando al contempo sia le capacità intrinseche sia le idiosincrasie nel modo in cui elaborano il linguaggio. I vocabolari dei moderni chatbot IA tipicamente comprendono tra i 50.000 e i 100.000 token. Ad esempio, la frase “Il prezzo è 9,99.”vienetokenizzata da ChatGPT come “Il”,”prezzo”,”
eˋ “,””, “9”, “.”, “99”. In modo meno intuitivo, “ChatGPT è meraviglioso” è frammentata in “chat”, “G”, “PT”, “è”, “mar”, “vellous“.
I chatbot IA non si aggiornano continuamente in tempo reale; per questo motivo, possono incontrare difficoltà con eventi recenti, nuova terminologia o qualsiasi informazione successiva al loro limite di conoscenza. Quest’ultimo si riferisce alla data dell’ultimo aggiornamento dei dati di addestramento, il che implica una sua completa ignoranza riguardo a eventi, tendenze o scoperte successive a quella data. Per esempio, la versione attuale di ChatGPT ha un limite di conoscenza che si estende fino a giugno 2024.
Se le venisse chiesto di identificare l’attuale presidente degli Stati Uniti, ChatGPT dovrebbe necessariamente eseguire una ricerca web attraverso il motore di ricerca Bing, “leggere” i risultati e, solo allora, formulare una risposta. I risultati di Bing vengono accuratamente filtrati in base alla pertinenza e all’affidabilità della fonte, e altri chatbot basati sull’IA adottano metodi di ricerca web analoghi per fornire risposte aggiornate.
Aggiornare le basi di conoscenza di questi chatbot è un processo sia costoso che delicato, e la sua efficiente ottimizzazione rimane una questione scientifica ancora aperta. Si presume che le conoscenze di ChatGPT vengano aggiornate progressivamente man mano che OpenAI rilascia nuove versioni del modello.
I segreti del ragionamento IA
Una delle capacità più affascinanti e recentemente diffuse nei chatbot basati sull’intelligenza artificiale è il cosiddetto ragionamento. Questo termine si riferisce al processo in cui l’IA utilizza una serie di passaggi intermedi, logicamente connessi, per risolvere problemi che, a prima vista, potrebbero sembrare complessi. Questo metodo è spesso conosciuto come ragionamento a “catena di pensiero”.
Invece di fornire una risposta immediata e diretta, la catena di pensiero permette di “pensare” in modo sequenziale, analizzando il problema passo dopo passo. Prendiamo un esempio pratico: di fronte a un calcolo come “quanto fa 56.345 meno 7.865 moltiplicato per 350.468″, ChatGPT non si limita a sparare un risultato. Invece, dimostra una comprensione delle regole matematiche, riconoscendo che la moltiplicazione deve essere eseguita prima della sottrazione, seguendo l’ordine corretto delle operazioni.
Per gestire questi passaggi intermedi con precisione, ChatGPT si avvale di una calcolatrice integrata, che gli consente di eseguire calcoli aritmetici con grande accuratezza. Questo approccio ibrido, che fonde il ragionamento interno – la capacità di scomporre il problema in passaggi logici – con l’ausilio di uno strumento specifico per i calcoli, contribuisce in modo significativo a migliorare l’affidabilità delle sue risposte in compiti complessi. Questa sinergia tra “pensiero” e calcolo rende i chatbot IA sempre più potenti e precisi.
La ricerca è stata pubblicata su TechTarget.
