Nell’era digitale, la tecnologia ha fatto passi da gigante, portando con sé sia benefici che sfide, ma una delle sfide più recenti e complesse è rappresentata dai deepfake, immagini o video generati dall’intelligenza artificiale (IA) che possono sembrare incredibilmente realistici, ma che in realtà sono falsi, e se ti chiedi quale possa mai essere il problema, sappi che questi deepfake possono essere utilizzati per scopi malevoli, come la disinformazione o la manipolazione dell’opinione pubblica.
Recentemente, un team di ricercatori dell’Università di Hull nel Regno Unito ha sviluppato una tecnica innovativa per rilevare i deepfake utilizzando strumenti tipicamente impiegati nell’osservazione delle galassie, con questa scoperta che potrebbe rappresentare un punto di svolta nella lotta contro la proliferazione dei deepfake.
Come è strutturato lo studio riguardante i deepfake
Il professor Kevin Pimbblet, astrofisico presso l’Università di Hull, ha avuto l’idea di applicare le tecniche di osservazione astronomica allo studio delle immagini facciali create dall’IA, in particolare, Pimbblet ha notato che i riflessi visibili negli occhi delle persone nelle immagini potevano rivelare se queste fossero reali o generate dall’IA.
Con l’aiuto di Adejumoke Owolabi, uno studente di Master presso l’Università, Pimbblet ha sviluppato un software in grado di analizzare rapidamente le riflessioni negli occhi dei soggetti nelle immagini per verificare la loro autenticità.
Il software utilizza due tecniche astronomiche, i “parametri CAS” e l’“indice di Gini”, per valutare le differenze tra gli occhi sinistro e destro nelle foto di persone reali e non reali, dopodiché le immagini reali provengono da un dataset diversificato di 70.000 volti su Flickr, mentre i deepfake sono stati creati dall’IA alla base del sito web “This Person Does Not Exist”.
Quali tipo di tecniche astronomiche vengono applicate ai deepfake? La scoperta del team di ricerca dell’Università di Hull si basa su due tecniche astronomiche di cui abbiamo accennato poc’anzi, i parametri CAS e l’indice di Gini, questi strumenti, originariamente sviluppati per l’osservazione delle galassie, sono stati adattati per analizzare le riflessioni negli occhi delle immagini facciali.
- Parametri CAS
I parametri CAS (Concentrazione, Asimmetria e Levigatezza) sono utilizzati in astronomia per classificare le galassie in base alla loro morfologia, dove la concentrazione misura quanto la luce è concentrata nel nucleo della galassia, l’asimmetria valuta quanto la galassia è distorta rispetto a una forma simmetrica, e la levigatezza quantifica la presenza di strutture fini come bracci a spirale o regioni di formazione stellare.
Applicando questi parametri alle immagini facciali, i ricercatori possono valutare la distribuzione della luce riflessa negli occhi, con le immagini reali che tendono ad avere dei riflessi simmetrici e uniformi, mentre i deepfake spesso mostrano discrepanze tra gli occhi sinistro e destro. - Indice di Gini
L’indice di Gini è un altro strumento astronomico utilizzato per misurare la distribuzione della luce nelle immagini delle galassie, un valore di Gini vicino a 0 indica una distribuzione uniforme della luce, mentre un valore vicino a 1 suggerisce che la luce è concentrata in un singolo punto.
Nel contesto dei deepfake, l’indice di Gini viene utilizzato per valutare l’uniformità dei riflessi visibili negli occhi, con le immagini reali che mostrano una distribuzione della luce più uniforme, mentre i deepfake tendono ad avere riflessioni irregolari e concentrate.
Implicazioni della scoperta
La capacità di rilevare i deepfake utilizzando tecniche astronomiche ha implicazioni significative per la sicurezza e la privacy online, con l’aumento della sofisticazione dei deepfake, diventa sempre più difficile distinguere le immagini reali da quelle generate dall’IA, ciononostante l’approccio innovativo del team di Hull offre una soluzione promettente per affrontare questa sfida.
Per quanto riguarda eventuali applicazioni future, questa tecnologia potrebbe essere integrata in software di rilevamento dei deepfake utilizzati da piattaforme di social media, agenzie di sicurezza e organizzazioni governative, nondimeno potrebbe essere utilizzata per educare il pubblico sui rischi associati ai deepfake e su come identificarli.
Ovviamente, come tutto, anche qui troviamo sfide e, purtroppo –o per fortuna, a secondo della situazione– limitazioni; nonostante i progressi, ci sono ancora sfide da affrontare, ad esempio i deepfake stanno diventando sempre più sofisticati e potrebbero eventualmente superare le tecniche di rilevamento attuali, per di più l’implementazione su larga scala di questa tecnologia richiede ulteriori ricerche e sviluppo.
Se sei attratto dalla scienza, dalla tecnologia, o vuoi essere aggiornato sulle ultime notizie, continua a seguirci, così da non perderti le ultime novità e news da tutto il mondo!
