Se una super-intelligenza artificiale si impadronisse dei nostri sistemi operativi, se prendesse le redini di internet e mettesse in ginocchio l'umanità, gli scienziati non sarebbero in grado di riprendere in mano la situazione. Alcuni ricercatori hanno infatti calcolato che sarà impossibile controllare un'IA che vada oltre la nostra comprensione
I libri ed i film di fantascienza sono pieni di storie in cui l’intelligenza artificiale prende vita autonomamente e si toglie dal controllo dell’uomo, distruggendo il pianeta Terra. Una AI così avanzata in grado di rovesciare l’intera l’umanità.
Tale “idea” è stata discussa per molti decenni e gli scienziati hanno appena emesso il loro verdetto sulla possibilità di controllare una superintelligenza informatica di alto livello. La loro risposta è stata negativa.
Pare che non potremmo essere in grado di dominare e limitare una tale intelligenza. Questa ricerca è stata pubblicata sul Journal of Artificial Intelligence Research .
Il problema è che controllare una superintelligenza ben oltre la comprensione umana richiederebbe una simulazione di quella super intelligenza da analizzare. Ma se non siamo in grado di comprenderlo, è impossibile creare una simile simulazione.
Regole come “non causare danni agli esseri umani” non possono essere impostate se non comprendiamo il tipo di scenari che un’IA presenterà. Quando un sistema informatico funzionerà a un livello superiore della portata dei nostri programmatori, non si potranno più stabilire limiti.
“Una super-intelligenza pone un problema fondamentalmente diverso da quelli tipicamente studiati sotto la bandiera dell’etica robotica“, scrivono i ricercatori.
Questo perché una superintelligenza è multiforme, e quindi potenzialmente in grado di mobilitare una diversità di risorse al fine di raggiungere obiettivi che sono potenzialmente incomprensibili per gli esseri umani, per non parlare di controllabili.
Parte del ragionamento del team deriva dal problema di arresto ipotizzato da Alan Turing nel 1936. Il problema è incentrato sul sapere se un programma per computer raggiungerà o meno una conclusione e risponderà (quindi si interromperà), o semplicemente si fermerà per sempre cercando di trovarne uno.
Come Turing ha dimostrato attraverso una matematica intelligente, mentre possiamo sapere che per alcuni programmi specifici, è logicamente impossibile trovare un modo che ci consenta di saperlo per ogni potenziale programma che potrebbe mai essere scritto. Questo ci riporta all’intelligenza artificiale, che in uno stato super intelligente potrebbe contenere tutti i possibili programmi per computer contemporaneamente nella sua memoria.
Qualsiasi programma scritto per fermare l’IA che danneggia gli esseri umani e distrugge il mondo, ad esempio, può raggiungere una conclusione (e fermarsi) o meno: è matematicamente impossibile per noi essere assolutamente sicuri in entrambi i casi, il che significa che non è contenibile.
“In effetti, questo rende inutilizzabile l’algoritmo di contenimento“, afferma l’informatico Iyad Rahwan , dell’Istituto Max-Planck per lo sviluppo umano in Germania.
“L’alternativa all’insegnamento dell’etica all’IA non è dicendole di non distruggere il mondo, cosa che nessun algoritmo può essere assolutamente certo di fare, ma è limitare le capacità della superintelligenza. Ad esempio, potrebbe essere esclusa da parti di Internet o da determinate reti“, hanno spiegato i ricercatori.
Il nuovo studio però rifiuta anche questa idea di contenere la super-intelligenza, suggerendo che limiterebbe la portata dell’intelligenza artificiale : l’argomento sostiene che se non la useremo per risolvere problemi oltre la portata degli umani, perché crearla?
Se stiamo andando avanti con l’intelligenza artificiale, potremmo anche non sapere quando arriva una super-intelligenza fuori dal nostro controllo, tale è la sua incomprensibilità. Ciò significa che dobbiamo iniziare a fare alcune domande serie sulle direzioni in cui stiamo andando.
“Una macchina super intelligente che controlla il mondo sembra fantascienza“, ha affermato l’informatico Manuel Cebrian , dell’Istituto Max-Planck per lo sviluppo umano, che ha inoltre aggiunto: “Ma ci sono già macchine che eseguono determinati compiti importanti in modo indipendente senza che i programmatori comprendano appieno come l’hanno imparato“. Si pone quindi la questione se questo possa a un certo punto diventare incontrollabile e pericoloso per l’umanità.
Fonte: https://www.sciencealert.com/calculations-show-it-d-be-impossible-to-control-a-rogue-super-smart-ai
