Un articolo scientifico pubblicato sulla rivista Frontiers in Cell and Developmental Biology, che ha sviluppato il percorso di segnalazione delle cellule staminali dello sperma è stato oggetto di feroci critiche per aver utilizzato la raffigurazione di un ratto dal pene abnorme seduto in posizione eretta alla maniera di uno scoiattolo, mentre la grafica è stata disseminata di parole senza senso come “dissilced“, “testtomcels” e “senctolic“.
Ratto dal pene abnorme: i responsabili dello studio danno la “colpa” all’AI
L’immagine del ratto dal pene abnorme è apparsa sulla rivista Frontiers in Cell and Development Biology insieme a molti altri grafici inverosimili generati dallo strumento di intelligenza artificiale Midjourney che hanno incluso un diagramma multicolore del percorso di segnalazione JAK-STAT e che hanno affermato che non è stato basato su “nessuna biologia conosciuta“.
Il documento, scritto da ricercatori dell’ospedale Honghui in Cina, è stato poi ritirato dalla rivista, che si è scusata e ha affermato che stava lavorando per “correggere la documentazione”.
Diversi scienziati hanno espresso preoccupazione per il modo in cui le immagini del ratto dal pene abnorme sono state pubblicate con leggerezza e hanno osservato che tanta superficialità preannuncia un’era pericolosa in cui i ricercatori falsificano il loro lavoro utilizzando l’intelligenza artificiale.
Se infatti l’AI ha prodotto delle immagini inappropriate, sono stati gli studiosi a decidere di includerle nella ricerca e di permetterne la pubblicazione.
Il ratto dal pene abnorme è l’esempio dell’inizio di un’era pericolosa della fake-science
Adrian Liston, Professore di patologia all’Università di Cambridge ed editore della rivista Immunology & Cell Biology, ha dichiarato: “L’intelligenza artificiale generativa è molto brava a creare cose che sembrano provenire da un essere umano. Non controlla se quelle informazioni siano corrette“.
“È come un attore che interpreta un medico in uno show televisivo: sembra un medico, lavora come un medico e usa persino la terminologia che userebbe un medico. Ma non vorresti mai ricevere un consiglio sulla salute da un medico-attore“.
Scrivendo su Science Integrity Digest, la dottoressa Elisabeth Bik, una microbiologa olandese che lavora individuando la manipolazione negli articoli scientifici, ha detto: “Naturalmente potremmo farci una bella risata su questo evento, e chiederci come sia possibile che l’editore e i due colleghi i revisori non hanno capito che pubblicare le immagini di un ratto dal pene abnorme fosse un passo falso“.
“L’articolo è in realtà un triste esempio di come riviste scientifiche, editori e revisori paritari possano essere tanto superficiali nell’accettare e pubblicare immagini degradanti per la scienza generate dall’intelligenza artificiale“.
“Queste rappresentazioni non sono scientificamente corrette, ma se tali illustrazioni raffazzonate possono superare la revisione scientifica così facilmente, figure generate dall’intelligenza artificiale dall’aspetto più realistico probabilmente si sono già infiltrate nella letteratura dedicata“.
Identificati più di mille documenti con immagini fraudolente
La dottoressa Bik ha identificato più di mille documenti che contengono immagini fraudolente come quelle che hanno interessato il ratto dal pene abnorme, la maggior parte delle quali ritiene siano state generate dall’intelligenza artificiale.
Le aziende stanno tentando di sviluppare software in grado di rilevare i contenuti generati dall’intelligenza artificiale e in futuro potrebbero essere contrassegnati con filigrana, ma al momento non c’è modo di individuarli a meno che non siano palesemente sbagliati.
Un portavoce di Frontiers in Cell and Development Biology ha dichiarato: “Ringraziamo i lettori per il loro esame accurato dei nostri articoli: quando sbagliamo, la dinamica di crowdsourcing della scienza aperta significa che il feedback della comunità ci aiuta a correggere rapidamente il record”.
La pubblicazione delle immagini del ratto dal pene abnorme è la cartina tornasole di come realmente la conoscenza venga spesso sacrificata in nome della visibilità. Troppe volte si è dato credito a fake-news. Che questo sistema contaminasse anche la ricerca scientifica, era solo una questione di tempo.
