di da vox.com
Il primo libro di Yuval Noah Harari, Sapiens, è stato un successo internazionale. Il tour strabiliante dello storico israeliano attraverso il trionfo dell’Homo sapiens è uno dei preferiti, tra gli altri, da Bill Gates, Mark Zuckerberg e Barack Obama.
Il suo nuovo libro, Homo Deus: a Brief History of Tomorrow, parla del futuro dell’umanità e della minaccia che la nostra stessa intelligenza e capacità creativa rappresenta per il nostro futuro.
Il futuro degli umani
Di recente ho parlato con Harari per il mio podcast, The Ezra Klein Show. In questo estratto, che è stato modificato per lunghezza e chiarezza, Harari e io discutiamo dell’ascesa dell’intelligenza artificiale, se la coscienza digitale è un sottoprodotto necessario dell’intelligenza digitale e cosa significherà tutto per gli esseri umani.
Come vedrai, sono un po’ meno convinto di Harari che i computer ci sostituiranno nel lavoro e che gli esseri umani siano sull’orlo dell’inutilità economica. Ma potrei benissimo sbagliarmi, e lui lo dimostra bene.
Parliamo anche di realtà virtuale, e della possibilità che riusciremo a gestire il problema dell’irrilevanza economica ritirandoci in paesi delle meraviglie artificiali che ci danno il significato e la narrazione che la nostra quotidianità ci nega. Harari sostiene che stiamo applicando quel balsamo da un millennio ormai – l’abbiamo semplicemente chiamata religione.
Ezra Klein
Credi che tra 200 o 300 anni l’essere umano sarà l’attore dominante sulla Terra?
Yuval Harari
Assolutamente no. Se mi chiedessi tra 50 anni, sarebbe una domanda difficile, ma 300 anni, è una domanda molto facile. Tra 300 anni, noi Homo sapiens non saremo la forma di vita dominante sulla Terra, ammesso che esisteremo ancora.
In ogni caso, tra 200 o 300 anni, gli esseri che domineranno la Terra saranno più diversi da noi di quanto noi siamo diversi dai Neanderthal o dagli scimpanzé.
Ezra Klein
Quando sento questo tipo di argomentazioni sull’eventuale trionfo dell’IA, spesso mi sembra che siano gli umani più cerebrali – i vostri Elon Musk, Yuval Hararis e Bill Gates – a sopravvalutare l’importanza delle capacità cerebrali. Ma non è chiaro se siano state le nostre capacità analitiche a permetterci di dominare o la nostra cooperazione e altri fattori.
Yuval Harari
Sono totalmente d’accordo che per il successo, la cooperazione di solito è più importante della semplice intelligenza grezza. Ma il fatto è che l’IA sarà molto più cooperativa, almeno potenzialmente, degli umani. Per fare un esempio famoso, ormai tutti parlano di auto a guida autonoma.
L’enorme vantaggio di un’auto a guida autonoma rispetto a un guidatore umano non è solo che, come veicolo individuale, è probabile che l’auto a guida autonoma sia più sicura, più economica e più efficiente di un’auto a guida umana. Il vero grande vantaggio è che le auto a guida autonoma possono essere collegate tra loro per formare un’unica rete in un modo che non si può fare con i conducenti umani.
È lo stesso in molti altri campi. Se pensi alla medicina, oggi hai milioni di medici umani e molto spesso hai problemi di comunicazione tra medici diversi, ma se passi a medici di intelligenza artificiale, non hai davvero milioni di medici diversi. Hai un’unica rete medica che monitora la salute di tutti nel mondo.
Se in questo momento, mentre parliamo, un medico AI a Timbuktu scopre una nuova malattia o un nuovo trattamento, queste informazioni sono immediatamente disponibili per il mio medico AI personale sul mio smartphone. Alcuni dei maggiori vantaggi dell’IA sono nel campo della cooperazione, non nell’intelligenza.
C’è molta confusione su cosa significhi o non significhi intelligenza artificiale, specialmente in posti come la Silicon Valley. Per me, la confusione più grande di tutte è tra intelligenza e coscienza. Il novantacinque percento dei film di fantascienza si basa sull’errore che un’intelligenza artificiale sarà inevitabilmente una coscienza artificiale. Presumono che i robot avranno emozioni, sentiranno cose, che gli umani si innamoreranno di loro o che vorranno distruggerci. Questo non è vero.
L’intelligenza non è coscienza. L’intelligenza è la capacità di risolvere i problemi. La coscienza è la capacità di sentire le cose. Nell’uomo e negli altri animali, le due cose vanno insieme. Il modo in cui i mammiferi risolvono i problemi è sentendo le cose. Le nostre emozioni e sensazioni sono davvero parte integrante del modo in cui risolviamo i problemi della nostra vita. Tuttavia, nel caso dei computer, questo non succede.
Negli ultimi decenni, c’è stato un immenso sviluppo nell’intelligenza del computer e uno sviluppo esattamente zero nella coscienza del computer. Non c’è assolutamente motivo di pensare che i computer siano vicini allo sviluppo della coscienza. Potrebbero muoversi lungo una traiettoria molto diversa dall’evoluzione dei mammiferi. Nel caso dei mammiferi, l’evoluzione ha guidato i mammiferi verso una maggiore intelligenza attraverso la coscienza, ma nel caso dei computer potrebbero progredire lungo un percorso parallelo e molto diverso verso l’intelligenza che semplicemente non coinvolge affatto la coscienza.
Potremmo trovarci in un mondo con una super intelligenza inconscia. La grande domanda non è se gli umani si innamoreranno dei robot o se i robot cercheranno di uccidere gli umani. La grande domanda è come appare un mondo di super intelligenza inconscia? Perché non abbiamo assolutamente nulla nella storia che ci prepari a uno scenario del genere.
Ezra Klein
Per me, questa è la domanda più interessante sull’intelligenza artificiale e quella che ritengo venga quasi sempre ignorata. Il motivo per cui risolviamo i problemi è perché i sentimenti ci guidano. La sensazione di rabbia, la sensazione di dolore, ci portano a cercare di risolvere i problemi. E a un livello molto basso, c’è la spinta a riprodursi, che è anche mediata da sentimenti di amore e lussuria.
Gran parte, non solo della civiltà umana, ma il modo in cui tutti gli animali sulla Terra sembrano operare cerca di garantire la riproduzione per la loro specie. La domanda che mi viene sempre posta quando provo a immaginare l’intelligenza artificiale è che aspetto ha la super intelligenza senza i driver biologici di base della riproduzione? Anche se immagini che avrebbe qualcosa come la coscienza, non avrebbe il nostro tipo di coscienza.
Quindi l’IA avrà una potente intelligenza per risolvere i problemi, ma quale sarebbe la sua motivazione? Perché dovrebbe voler risolvere questi problemi? Quali problemi vorrebbe risolvere? Sento che gran parte della conversazione sull’IA presuppone che l’IA avrà il desiderio umano di avere di più, che avrà qualcosa e quindi vorrà più cose. Diventerà il miglior giocatore di Go, ma non sarà disposta a fermarsi qui. Dovrà anche essere migliore di chiunque altro al Monopoli. Dovrà anche essere più brava di chiunque altro a giocare a Guitar Hero su PlayStation. Ma non è chiaro per me perché dovrebbe andare così o cosa lo renderebbe vero.
Yuval Harari
Nelle prime generazioni di intelligenza artificiale, puoi dire che la motivazione sarà determinata dalle persone che programmano l’intelligenza artificiale, ma quando l’apprendimento automatico prenderà il sopravvento, non abbiamo davvero idea di dove potrebbe portare l’intelligenza artificiale. Non avrà desideri nel senso umano perché non avrà coscienza. Non avrà menti, ma potrebbe sviluppare i propri modelli di comportamento che sono ben oltre la nostra capacità di comprensione.
L’intera attrazione dell’apprendimento automatico, della mente profonda e dell’intelligenza artificiale per le persone del settore è che l’intelligenza artificiale può iniziare a riconoscere schemi e prendere decisioni in un modo che nessun essere umano può emulare o prevedere. Ciò significa che non siamo in grado di prevedere realmente in che direzione si svilupperà l’IA. Questo fa parte del pericolo. Gli scenari in cui l’IA va oltre l’intelligenza umana sono, per definizione, gli scenari che non possiamo immaginare.
Ezra Klein
Allora perché, data la gamma di incertezze sia sullo sviluppo dell’IA che su cosa diventerà un’IA, sei così convinto che gli esseri umani non saranno una forma di vita dominante tra 300 anni?
Yuval Harari
Non è perché sopravvaluto l’intelligenza artificiale. È perché la maggior parte delle persone tende a sopravvalutare gli esseri umani. Per sostituire la maggior parte degli umani, l’IA non dovrà fare cose molto spettacolari. La maggior parte delle cose di cui il sistema politico ed economico ha bisogno dagli esseri umani sono in realtà abbastanza semplici.
In precedenza abbiamo parlato di guidare un taxi o di diagnosticare una malattia. Questo è qualcosa che l’IA sarà presto in grado di fare meglio degli umani anche senza coscienza, anche senza avere emozioni o sentimenti o super intelligenza. La maggior parte degli umani oggi fa cose molto specifiche che presto un’IA sarà in grado di fare meglio di noi.
Se tornassimo indietro nel tempo ai tempi dei cacciatori-raccoglitori, allora sarebbe una storia diversa. Sarebbe estremamente difficile costruire un robot cacciatore-raccoglitore in grado di competere con un essere umano. Ma creare un’auto a guida autonoma migliore di un tassista umano? Questo è facile. Creare un medico IA che diagnostichi il cancro meglio di un medico umano? Questo è facile.
Ciò di cui stiamo parlando nel 21° secolo è la possibilità che la maggior parte degli esseri umani perda il proprio valore economico e politico. Diventeranno una specie di enorme classe inutile — inutili non dal punto di vista della madre o dei loro figli, inutili dal punto di vista del sistema economico, militare e politico. Una volta che ciò accadrà, il sistema perderà anche l’incentivo a investire negli esseri umani.
Ezra Klein
Lascia che ti sfidi su questo. Diciamo che questo cambiamento avviene nell’arco di 50, 100, 150 anni.
Yuval Harari
Cinquant’anni sarebbe davvero troppo presto.
Ezra Klein
Capisco, ma non è necessariamente così veloce per l’economia. Un modo per dirlo è che nel 1900 un’enorme percentuale della forza lavoro americana era impegnata nell’agricoltura. Nel 2000 non era più così. L’agricoltura è ormai una percentuale molto piccola della popolazione come percentuale della forza lavoro.
Al tuo punto sull’inutilità economica, abbiamo sostituito lavori molto “utili” come l’agricoltura con molti lavori come il mio che oggettivamente non sono altrettanto utili. Il mondo ha bisogno di me per fare podcast e scrivere articoli? C’è bisogno che tu scriva libri interessanti sui futuri possibili? Probabilmente no.
Quello che siamo bravi a fare nell’economia è raccontare storie su ciò di cui abbiamo bisogno. Raccontiamo storie sui pezzi di carta verdi che formano i nostri soldi e raccontiamo storie sul valore delle cose che acquistiamo con quei pezzi di carta verdi. Riusciamo a convincerci che il succo d’uva, se lo lasci riposare abbastanza a lungo, diventa questa cosa straordinaria chiamata vino e può valere mille dollari!
Potremmo arrivare a un punto in cui i computer guidano i taxi e ci diciamo solo che ciò di cui abbiamo veramente bisogno nella vita sono più insegnanti di yoga e insegnanti di meditazione. Puoi dire continuamente: “Bene, allora il computer lo farà”, ma sono un po’ scettico sul fatto che non saremo in grado come specie di trovare cose cui decidiamo di aggiungere valore.
Yuval Harari
Penso che la risposta sia su due livelli. Prima di tutto, per quanto riguarda la possibilità che appaiano nuovi posti di lavoro proprio come i lavoratori agricoli si sono trasferiti nelle fabbriche e poi si sono trasferiti nei servizi e ora sono insegnanti di yoga, il problema qui è che gli esseri umani hanno fondamentalmente due tipi di abilità che conosciamo: capacità fisiche e capacità cognitive.
In passato, mentre le macchine gareggiavano con noi nelle capacità fisiche nei campi e nelle fabbriche, sempre più esseri umani si sono spostati a lavorare in lavori che richiedono principalmente capacità cognitive. Ora le macchine stanno iniziando a competere anche nel campo cognitivo, e non sappiamo se c’è un terzo tipo di abilità che tutti noi potremmo muovere per lavorare in quello.
Ezra Klein
Posso fare un suggerimento? Tom Friedman, che è bravo a mettere le cose in simpatiche piccole capsule linguistiche, ama dire che ci stiamo spostando dai lavori della mente ai lavori del cuore. Mi sembra che l’abilità degli umani sia che gli esseri umani si divertono a interagire con altri esseri umani.
Un buon esempio. Stai andando a un ritiro di meditazione silenziosa di 60 giorni. Certamente abbiamo già computer in grado di raccogliere informazioni sulla meditazione online, che potrebbero leggere ogni libro mai scritto sulla meditazione e sputarti una stampa, e poi potresti andare in una stanza da solo per 60 giorni e farlo senza soldi – ma tu vuoi farlo con le persone, vuoi quelle interazioni.
In realtà penso che molti posti di lavoro nell’economia siano così. Penso che anche adesso molti lavori siano effettivamente inutili. I libri sono in qualche modo un analogo dei computer – c’è così tanto che potremmo lasciare che i libri facciano per noi.. Credo che tu insegni all’università. Potresti far leggere i libri a tutti, ma alla gente piace avere insegnanti. A loro piace avere Tutor. A loro piace stare con altri studenti. Ciò in cui gli esseri umani sono abili, e lo sono da tempo, è interagire con altri esseri umani.
Yuval Harari
È probabile che assisteremo a un immenso progresso nella capacità del computer di leggere e comprendere le emozioni umane meglio di quanto gli umani possano farlo. Se vai dal dottore, vuoi avere questa calda sensazione di un essere umano che interagisce con te. Il modo in cui il dottore lo fa è leggendo le tue espressioni facciali e il tuo tono di voce e, naturalmente, il contenuto delle tue parole. Questi sono i tre modi in cui un medico umano analizza il tuo stato emotivo e sa se sei spaventato o annoiato o arrabbiato o altro.
Ora, non ci siamo ancora arrivati, ma siamo molto vicini al punto in cui un computer sarà in grado di riconoscere questi modelli biologici meglio di un essere umano. Le emozioni non sono dei fenomeni mistici che solo gli umani possono leggere. Inoltre, il computer sarà in grado di leggere i segnali provenienti dal tuo corpo, cosa che nessun medico umano può fare. Puoi avere sensori biometrici sul o all’interno del tuo corpo e il computer sarà in grado di diagnosticare il tuo esatto stato emotivo molto meglio di qualsiasi essere umano. Anche in questo, l’intelligenza artificiale avrà un vantaggio.
L’altro punto è che quello che è successo nel 20° secolo è che le persone che hanno perso il lavoro in agricoltura hanno ottenuto lavori poco qualificati nelle fabbriche, e quando questi posti di lavoro sono finiti, hanno ottenuto lavori poco qualificati nei servizi come essere cassieri o fattorini. Il vero problema nel 21° secolo è che i lavori poco qualificati scompariranno e avremo un grosso problema nel riqualificare le persone per lavori altamente qualificati. Se perdi il lavoro come tassista quando hai, diciamo, 50 anni e devi reinventarti a 50 anni come insegnante di yoga, sarà molto, molto difficile.
Ezra Klein
L’altro lato dello scenario che stai delineando è un mondo in cui ciò che finisce per accadere è una sorta di scenario non produttivo e di iper-piacere. Onestamente mi preoccupo molto di più della distopia VR che della distopia AI.
In un mondo in cui le persone perdono la loro utilità economica, è facile immaginarle ritirarsi nella realtà virtuale, che è già dannatamente buona, e sarà sorprendente tra 20 anni. Immaginate un possibile futuro in cui stiamo cercando di gestire il problema dell’irrilevanza economica attraverso una massiccia macchina di distrazione sociale?
Yuval Harari
Sì, penso che l’altro problema con l’intelligenza artificiale che prende il sopravvento non sia il problema economico, ma in realtà il problema del significato: se non hai più un lavoro e, diciamo, il governo ti fornisce un reddito di base universale o qualcosa del genere, il grande il problema è come trovi un significato nella vita? Cosa fai tutto il giorno?
Qui, le migliori risposte che abbiamo finora sono droghe e giochi per computer. Le persone regoleranno sempre di più i loro stati d’animo con tutti i tipi di sostanze biochimiche e si impegneranno sempre di più con le realtà virtuali tridimensionali.
Questa idea che gli umani trovino un significato nei giochi di realtà virtuale non è in realtà un’idea nuova. È un’idea molto antica. Abbiamo trovato un significato nei giochi di realtà virtuale per migliaia di anni. Finora l’abbiamo chiamata religione.
Puoi pensare alla religione semplicemente come un gioco di realtà virtuale. Inventi regole che in realtà non esistono, ma credi a queste regole e per tutta la vita cerchi di seguirle. Se sei cristiano, se lo fai, ottieni punti. Se pecchi, perdi punti. Se nel momento in cui finisci il gioco quando sei morto, hai guadagnato abbastanza punti, sali al livello successivo. Tu vai in paradiso.
Le persone hanno giocato a questo gioco di realtà virtuale per migliaia di anni e li ha resi relativamente contenti e felici della loro vita. Nel 21° secolo, avremo solo la tecnologia per creare giochi di realtà virtuale molto più persuasivi di quelli a cui abbiamo giocato nelle ultime migliaia di anni. Avremo la tecnologia per creare effettivamente paradisi e inferni, non nella nostra mente ma usando bit e usando interfacce dirette cervello-computer.
