La chiave per rilevare i deepfake potrebbe trovarsi nello spazio profondo
Secondo una recente ricerca condotta dall’Università di Hull nel Regno Unito, gli occhi nelle immagini deepfake potrebbero rivelare la loro natura non autentica. Kevin Pimbblet, professore di astrofisica, ha avuto l’idea di applicare tecniche utilizzate nell’osservazione di galassie lontane per distinguere tra volti umani reali e artificiali. Questo studio è emerso dall’analisi di immagini facciali generate da intelligenza artificiale (AI), in particolare dai generatori d’arte AI Midjourney e Stable Diffusion.
Le deepfake sono immagini o video di persone creati addestrando l’AI su vasti set di dati. Quando l’AI genera un volto umano, costruisce un volto irreale pixel per pixel, che può essere creato ex novo o basato su persone reali. Nonostante le foto autentiche contengano riflessi, l’AI tenta di replicarli, ma spesso con sottili differenze tra i due occhi.
Per sviluppare un metodo di verifica, Pimbblet ha collaborato con Adejumoke Owolabi, una studentessa di master, per creare un software che analizzasse rapidamente i riflessi oculari in varie immagini. Hanno sviluppato un programma per valutare le differenze tra gli occhi sinistro e destro in foto di persone, sia reali che artificiali. Le facce reali provenivano da un dataset diversificato di 70.000 volti su Flickr, mentre le deepfake erano generate dall’AI del sito This Person Does Not Exist.
Il software utilizza due tecniche astronomiche, i “parametri CAS” e l’ indice Gini . I parametri CAS, che valutano Concentrazione, Asimmetria e Levigatezza di un profilo luminoso, si sono rivelati meno utili per rilevare le deepfake a causa della natura dispersa dei riflessi luminosi negli occhi. L’indice Gini, che misura la disuguaglianza attraverso un insieme di valori, si è dimostrato più efficace nell’analizzare la distribuzione dei pixel tra gli occhi sinistro e destro.
Questo lavoro è stato presentato alla riunione della Royal Astronomical Society all’Università di Hull il 15 luglio, ma non è ancora stato sottoposto a revisione paritaria né pubblicato. Il software, ancora in fase di prova, ha mostrato un tasso di errore del 30% e finora è stato testato solo su un modello di AI.
Dan Miller, psicologo alla James Cook University in Australia, ha commentato che i risultati dello studio potrebbero non essere immediatamente applicabili per migliorare la capacità umana di rilevare le deepfake, poiché il metodo richiede una modellazione matematica avanzata della luce. Tuttavia, ha sottolineato che i risultati potrebbero contribuire allo sviluppo di software per la rilevazione di deepfake .
Inoltre, la ricerca solleva una questione interessante: se l’AI può generare riflessi che possono essere valutati con metodi basati sull’astronomia, potrebbe anche essere utilizzata per generare intere galassie? Pimbblet ha menzionato studi precedenti in cui le reti generative avversarie (GAN) sono state addestrate su immagini di galassie per recuperare dati degradati, suggerendo ulteriori applicazioni dell’AI nella simulazione e nell’analisi di dati astronomici.