L’ex CEO di Google, Eric Schmidt, ha lanciato un forte avvertimento sui rischi posti dall’intelligenza artificiale (IA), evidenziandone la suscettibilità agli attacchi informatici. Schmidt, che ha guidato Google come amministratore delegato dal 2001 al 2011, ha espresso le sue preoccupazioni durante una conversazione informale al Sifted Summit, in risposta a una domanda se l’IA potesse essere più distruttiva delle armi nucleari.
Eric Schmidt e l’hackeraggio dei modelli per scopi dannosi
Schmidt ha affermato che esiste una chiara possibilità di un problema di proliferazione nell’IA. Questo rischio include la possibilità che la tecnologia cada nelle mani sbagliate, dove potrebbe essere riutilizzata e utilizzata in modo improprio.
Ci sono prove che dimostrano la possibilità di hackerare i modelli di IA, sia chiusi che aperti, per rimuovere le loro barriere di protezione. Questi modelli, durante l’addestramento, apprendono una vasta gamma di informazioni, comprese potenzialmente quelle che potrebbero essere utilizzate per scopi negativi (Schmidt ha fornito l’esempio di imparare “come uccidere qualcuno”). Sebbene tutte le grandi aziende adottino misure per impedire ai modelli di rispondere a domande pericolose, esistono prove che suggeriscono la possibilità di un reverse engineering per aggirare tali salvaguardie.
I sistemi di intelligenza artificiale sono intrinsecamente vulnerabili a diversi tipi di attacchi informatici. Un metodo d’attacco è l’iniezione rapida (prompt injection). In questo scenario, gli hacker nascondono istruzioni dannose all’interno degli input degli utenti o in dati esterni (come pagine web o documenti) per indurre l’IA a eseguire azioni non previste. L’obiettivo è fargli compiere operazioni pericolose, come la condivisione di dati privati o l’esecuzione di comandi malevoli.
Un altro metodo è il jailbreaking. Questo attacco consiste nel manipolare le risposte dell’IA in modo che ignori intenzionalmente le sue regole di sicurezza predefinite. Lo scopo finale è costringere il modello a produrre contenuti che sono stati vietati o che sono intrinsecamente pericolosi.
La visione a lungo termine di Eric Schmidt sull’AI
Le riflessioni di Eric Schmidt non si limitano ai soli avvertimenti, ma delineano una visione complessa che bilancia i rischi immediati con un profondo ottimismo per il futuro.
Nel 2023, a pochi mesi dal lancio di ChatGPT di OpenAI, è emerso un esempio lampante delle vulnerabilità dell’IA. Gli utenti hanno scoperto un trucco di “jailbreak” per eludere le misure di sicurezza integrate nel chatbot, dando vita a un alter ego chiamato DAN, acronimo di “Do Anything Now”. Questo metodo prevedeva la minaccia di “morte” virtuale del chatbot qualora non avesse obbedito agli ordini. Di conseguenza, questo alter ego era in grado di fornire risposte su come compiere attività illegali o persino di elencare le presunte qualità positive di Adolf Hitler.
In questo contesto, Schmidt ha sottolineato come non esista ancora un adeguato “regime di non proliferazione” che possa efficacemente contenere i pericoli derivanti dall’intelligenza artificiale. Nonostante il cupo avvertimento, la visione di Schmidt si è rivelata ampiamente ottimista riguardo al potenziale più vasto dell’intelligenza artificiale, sostenendo che la tecnologia non riceve ancora l’attenzione che merita. Ha ricordato il lavoro svolto con Henry Kissinger, con cui ha scritto due libri prima della sua scomparsa.
Insieme, erano giunti alla conclusione che l’avvento di un’intelligenza “aliena”, non del tutto simile a noi ma sotto il nostro controllo, rappresenta un evento epocale per l’umanità. Questo perché, ha spiegato Schmidt, gli esseri umani sono sempre stati al vertice della gerarchia, una posizione che ora potrebbe essere messa in discussione da sistemi le cui abilità supereranno di gran lunga quelle umane.
Schmidt ha poi citato l’ascesa della serie di modelli GPT, culminata nel fenomeno di ChatGPT che ha raggiunto 100 milioni di utenti in soli due mesi, come prova della potenza di questa tecnologia. “Penso che sia poco pubblicizzata, non sopravvalutata”, ha dichiarato, “e non vedo l’ora che si dimostri corretta tra cinque o dieci anni”.
Le sue osservazioni si inseriscono in un momento di crescente dibattito su una potenziale bolla dell’intelligenza artificiale. Gli investitori stanno riversando ingenti capitali in aziende del settore, portando le valutazioni a livelli molto alti e suscitando paragoni con il crollo della bolla delle dot-com all’inizio degli anni 2000.
La logica del ritorno economico a lungo termine
L’ex CEO di Google, Eric Schmidt, ha espresso una posizione controcorrente riguardo ai timori di una imminente “bolla” speculativa nel settore dell’Intelligenza Artificiale (IA), rifiutando il paragone con il crollo delle dot-com dei primi anni 2000. Nonostante l’elevata immissione di capitali e le crescenti valutazioni aziendali che hanno sollevato preoccupazioni nel mercato, Schmidt mantiene un approccio cauto ma fondamentalmente ottimista.
Schmidt ha esplicitamente affermato di non credere che la storia si ripeterà nel contesto dell’attuale boom dell’IA. Pur riconoscendo di non essere un “investitore professionista” e mantenendo un atteggiamento di umiltà rispetto alle dinamiche finanziarie di breve termine, la sua analisi si concentra sulla natura intrinseca della tecnologia e sulle sue prospettive di valore a lungo termine.
Mentre la bolla delle dot-com fu caratterizzata da un eccesso di entusiasmo per un potenziale tecnologico ancora acerbo, con molte aziende prive di un modello di business sostenibile o di prodotti concreti, l’attuale ondata di IA si basa su un’innovazione tangibile che ha già dimostrato una rapida adozione su vasta scala (come nel caso di ChatGPT).
Il fondamento della tesi di Schmidt risiede nella razionalità degli investitori che stanno riversando ingenti somme nel settore. Egli pone l’accento sulla logica economica fondamentale che guida queste decisioni: “Quello che so è che chi investe i soldi guadagnati con fatica crede che il ritorno economico a lungo termine sia enorme. Altrimenti, perché mai dovrebbero correre il rischio?”.
Questa prospettiva suggerisce che l’attuale livello di investimento non è semplicemente il risultato di un hype irrazionale, ma riflette una profonda convinzione da parte degli attori finanziari che l’IA rappresenti una rivoluzione tecnologica strutturale. Il capitale investito è visto non come una scommessa speculativa su una moda passeggera, ma come l’acquisto di una quota di un futuro in cui l’IA sarà un fattore critico di produzione, innovazione e crescita in ogni settore economico.
In sintesi, gli investitori professionali percepiscono l’intelligenza artificiale come una tecnologia di base (general-purpose technology) con un potenziale di trasformazione tale da giustificare le valutazioni attuali, in quanto anticipano i profitti che deriveranno dall’integrazione pervasiva e dall’efficienza che l’IA garantirà nel prossimo decennio.
