La nuova legge dell’Unione Europea sull’intelligenza artificiale (AI) potrebbe consentire alla stessa di accedere al nostro subconscio.
L’utilizzo dei dati personali provenienti da milioni di post su Facebook e l’analisi avanzata dei dati per influenzare i risultati politici negli Stati Uniti e nel Regno Unito una volta erano un concetto appartenente al regno della fantascienza. Tuttavia, gli eventi dello scandalo Cambridge Analytica del 2018 hanno trasformato questo scenario in realtà. Questo incidente ha evidenziato come la rapida progressione della tecnologia e dell’intelligenza artificiale abbia inaugurato nuove sfide etiche e dilemmi precedentemente inimmaginabili.
L’iniziativa Neurorights guidata dalla Neurorights Foundation sostiene il riconoscimento di una nuova serie di misure di protezione contro le sfide di questi progressi tecnici. Alcuni di questi sono oggetto di discussione in relazione alla legge sull’intelligenza artificiale (AI) attualmente in fase di negoziazione negli organi direttivi dell’UE. Questa legge deve regolare, tra le altre questioni, la capacità della stessa di influenzare il nostro subconscio (in modo simile al caso Cambridge Analytica ma a livelli molto più profondi).
Ignasi Beltran de Heredia, preside della Facoltà di Giurisprudenza e Scienze Politiche dell’Universitat Oberta de Catalunya (UOC) e autore del libro “Inteligencia artificial y neuroderechos” (Aranzadi, 2023), ha appena pubblicato un articolo ad accesso libero che esamina la le sfide che affrontiamo a seguito dei progressi nell’intelligenza artificiale e la messa in discussione dell’ultimo disegno di legge dell’UE dal punto di vista delle neuroscienze.
I rischi di dare all’AI accesso al nostro subconscio
Secondo le stime, solo il 5% dell’attività del cervello umano è cosciente. Il restante 95% avviene nel subconscio e non solo non ne abbiamo alcun controllo reale, ma non siamo nemmeno consapevoli che stia avvenendo. Come notato da Beltran de Heredia nel suo articolo, non siamo consapevoli di questo straordinario torrente di attività neurale a causa dell’elevata complessità dell’interazione tra la nostra mente conscia e il nostro comportamento subconscio e della nostra totale mancanza di controllo sulle forze che guidano la nostra vita.
Tuttavia, ciò non significa che le persone non possano essere influenzate inconsciamente.
“Ci sono due modi in cui l’intelligenza artificiale può farlo”, ha spiegato. “Il primo è raccogliere dati sulla vita delle persone e creare un’architettura decisionale che ti porti a prendere una decisione particolare. E l’altro – che attualmente è meno sviluppato – prevede l’utilizzo di applicazioni o dispositivi per creare direttamente impulsi irresistibili per il nostro subconscio al fine di generare risposte impulsive a livello subliminale, cioè creare impulsi.”
“Man mano che sviluppiamo macchine migliori e più potenti e diventiamo sempre più strettamente collegati ad esse, entrambe le opzioni diventeranno sempre più diffuse. Gli algoritmi avranno più informazioni sulla nostra vita e creare strumenti per generare queste risposte impulsive sarà più semplice. Il rischio di queste tecnologie è che, proprio come il pifferaio magico di Hamelin, ci faranno ballare senza sapere perché”.
Secondo Beltran de Heredia, il campo in cui più probabilmente vedremo i primi tentativi di influenzare il comportamento umano attraverso l’AI è quello del lavoro, più specificamente della salute sul lavoro. L’autore sostiene che attualmente sono in uso numerose tecnologie intrusive. Questi includono dispositivi che monitorano i conducenti degli autobus per rilevare i sensori del microsonno o dell’elettroencefalografia (EEG) utilizzati dai datori di lavoro per monitorare le onde cerebrali dei dipendenti per i livelli di stress e attenzione durante il lavoro.
“È difficile prevedere il futuro ma, se non limitiamo queste tecnologie invasive mentre sono ancora nelle prime fasi di sviluppo, lo scenario più probabile è che continueranno a migliorare e ad allargare i propri tentacoli in nome della produttività”, ha spiegato.
I limiti (sfocati) proposti dall’Ue
Il nuovo regolamento sull’intelligenza artificiale attualmente in discussione presso l’UE cerca di anticipare i possibili rischi futuri di questo e altri usi dell’AI. L’articolo 5.1 del disegno di legge originario conteneva un divieto esplicito di immettere sul mercato, mettere in servizio o utilizzare un’AI in grado di influenzare una persona al di fuori del livello cosciente per distorcerne il comportamento. Tuttavia, gli emendamenti e le modifiche gradualmente introdotte da allora hanno lentamente diluito il carattere assoluto del divieto.
L’attuale disegno di legge, che verrà utilizzato come riferimento per la formulazione finale della legge, vieta tali tecniche solo se intendono essere manipolative o ingannevoli, ovvero incidono in modo significativo sulla capacità di una persona di prendere una decisione informata in modo tale da prendere una decisione che altrimenti non avrebbero fatto e causando in qualche modo un danno significativo a qualcuno. Inoltre, il divieto non si applicherà ai sistemi di AI per scopi terapeutici approvati.
“Secondo la proposta, il divieto dell’AI si applicherà quando si verificherà un danno grave e la persona finirà per fare qualcosa che altrimenti non avrebbe fatto. Ma questo è uno standard irrealistico. Se non riesco ad accedere al mio subconscio, non posso provare cosa avrei fatto senza lo stimolo, e non posso nemmeno provare il danno. Se la pubblicità subliminale è ora completamente vietata senza riserve, perché lo siamo? lasciando spazio al condizionamento subliminale da parte dell’intelligenza artificiale?”
Secondo Beltran de Heredia, se lasciamo aperta la porta del nostro subconscio, anche per buone ragioni, non saremo in grado di controllare chi vi ha accesso, come vi accede o gli scopi di questo accesso.
“Alcuni potrebbero pensare che queste preoccupazioni appartengano a un improbabile futuro distopico. Eppure non c’è dubbio che stiamo già subendo un’intrusione a un livello inimmaginabile e che il pubblico dovrebbe ricevere la massima protezione possibile. Il nostro subconscio rappresenta il nostro io più privato e dovrebbe essere completamente sigillato dall’accesso esterno. Anzi, non dovremmo nemmeno discuterne”, sostiene.
C’è ancora molto che non sappiamo su come funziona il nostro cervello e su come le parti conscia e subconscia della nostra mente interagiscono tra loro. Il cervello rimane un organo molto sfuggente e, sebbene la scienza stia facendo grandi passi avanti in questo campo, non conosciamo molti dei modi in cui il suo funzionamento potrebbe essere influenzato da determinati stimoli.
“Dobbiamo essere consapevoli del rischio di dare ad altre persone e aziende l’accesso al nostro sé interiore a livelli così profondi. Nel contesto dell’economia dei dati, molte istituzioni pubbliche e private competono per l’accesso alle nostre informazioni ma, paradossalmente, è stato dimostrato più volte che gli individui attribuiscono poco valore alla propria privacy”, ha concluso.
