Nella società odierna, l’intelligenza artificiale (AI) viene usata principalmente per scopi benevoli. Ma se non fosse così?
Questa è la domanda che si sono posti i ricercatori di Collaborations Pharmaceuticals quando hanno condotto esperimenti utilizzando un’intelligenza artificiale creata per cercare farmaci utili .
Pertanto, hanno ottimizzato questa AI per cercare armi chimiche e, in modo abbastanza impressionante, l’algoritmo di apprendimento automatico ha trovato 40.000 opzioni in sole sei ore, secondo un articolo pubblicato questo mese sulla rivista Nature Machine Intelligence.
Pensiero ingenuo
“Il pensiero non ci aveva mai colpito in precedenza. Eravamo vagamente consapevoli dei problemi di sicurezza relativi al lavoro con agenti patogeni o sostanze chimiche tossiche, ma non ci riguardavano; operiamo principalmente in un ambiente virtuale. Il nostro lavoro è radicato nella creazione di modelli di apprendimento automatico per bersagli terapeutici e tossici per assistere meglio nella progettazione di nuove molecole per la scoperta di farmaci”, hanno scritto i ricercatori nel loro articolo.
“Abbiamo trascorso decenni utilizzando computer e intelligenza artificiale per migliorare la salute umana, non per degradarla. Siamo stati ingenui nel pensare al potenziale uso improprio del nostro mestiere, poiché il nostro obiettivo era sempre stato quello di evitare le caratteristiche molecolari che potevano interferire con le molte classi diverse di proteine essenziali per la vita umana”.
I ricercatori hanno affermato che anche il loro lavoro su Ebola e neurotossine, che avrebbero potuto sollevare preoccupazioni sulle potenziali implicazioni negative dei loro modelli di apprendimento automatico, non aveva fatto suonare il campanello d’allarme. Erano beatamente inconsapevoli del danno che infliggevano.
Come ha funzionato il loro esperimento?
Collaborations Pharmaceuticals aveva pubblicato modelli di apprendimento automatico computazionale per la previsione della tossicità. Tutto ciò che i ricercatori hanno dovuto fare è stato adattare la loro metodologia per cercare, piuttosto che eliminare la tossicità, e quello che hanno ottenuto è stato un esercizio di pensiero che si è evoluto in una prova di concetto computazionale per la fabbricazione di armi biochimiche.
“L’esperimento è una chiara indicazione del motivo per cui dobbiamo monitorare più da vicino i modelli di AI e pensare davvero alle conseguenze del nostro lavoro”, hanno affermato.
Astratto:
L’Istituto Federale Svizzero per la Protezione NBC (nucleare, biologica e chimica) —Laboratorio Spiez— convoca il ciclo di conferenze “convergenza” istituito dal governo svizzero per identificare gli sviluppi della chimica, della biologia e delle tecnologie abilitanti che possono avere implicazioni per il settore chimico e biologico Convenzioni sulle armi.
Le conferenze ogni due anni riuniscono un gruppo internazionale di esperti scientifici e del disarmo per esplorare lo stato dell’arte attuale nel campo chimico e biologico e le loro traiettorie, per riflettere sulle potenziali implicazioni per la sicurezza e per considerare come queste implicazioni possono più efficacemente essere gestite a livello internazionale. L’incontro si riunisce per tre giorni di discussione sulle possibilità di danno, qualora l’intento ci sia, da tecnologie chimiche e biologiche all’avanguardia.
