Una nuova tecnica di ottimizzazione per l’inferenza bayesiana
L’inferenza bayesiana è una tecnica scientifica ampiamente utilizzata in diversi campi, dalla previsione dei risultati elettorali alla ricerca di esopianeti lontani. Tuttavia, questa metodologia può richiedere tempi di calcolo estremamente lunghi, talvolta settimane o mesi, o costringere i ricercatori a derivare manualmente equazioni complesse per ore. Recentemente, un gruppo di ricercatori del Massachusetts Institute of Technology (MIT) e di altre istituzioni ha introdotto una tecnica di ottimizzazione che accelera notevolmente il processo senza richiedere un lavoro aggiuntivo significativo da parte dello scienziato.
La nuova tecnica automatizzata consente al ricercatore di inserire il proprio modello e l’ottimizzazione esegue tutti i calcoli necessari per fornire un’approssimazione del parametro sconosciuto. Inoltre, offre stime affidabili dell’incertezza che possono aiutare il ricercatore a comprendere quando fidarsi delle sue previsioni.
Questa tecnica versatile può essere applicata a una vasta gamma di questioni scientifiche che incorporano l’inferenza bayesiana, come gli studi economici sull’impatto dei microcrediti nei paesi in via di sviluppo o le analisi sportive per classificare i migliori giocatori di tennis.
“Quando si analizza ciò che le persone fanno nelle scienze sociali, nella fisica, nella chimica o nella biologia, spesso utilizzano molti degli stessi strumenti. Se possiamo costruire uno strumento davvero eccellente che renda la vita dei ricercatori più semplice, possiamo fare la differenza per molte persone in diversi settori di ricerca”, afferma Tamara Broderick, professoressa associata presso il Dipartimento di Ingegneria Elettrica e Informatica del MIT e membro del Laboratorio per i Sistemi Informativi e Decisionali e dell’Istituto per i Dati, i Sistemi e la Società.
Risultati più rapidi
Quando i ricercatori cercano una forma più veloce di inferenza bayesiana, spesso si rivolgono a una tecnica chiamata inferenza variazionale automatica differenziata (ADVI), che è veloce da eseguire e facile da usare. Tuttavia, Broderick e i suoi collaboratori hanno riscontrato diversi problemi pratici con ADVI, come il fatto che fornisce stime dell’incertezza poco affidabili.
La nuova tecnica, chiamata ADVI deterministica (DADVI), supera questi svantaggi. Con DADVI, è molto chiaro quando l’ottimizzazione è terminata, quindi l’utente non dovrà spendere tempo di calcolo aggiuntivo per assicurarsi che sia stata trovata la migliore soluzione. DADVI consente anche l’uso di metodi di ottimizzazione più potenti che gli conferiscono un ulteriore aumento di velocità e prestazioni.
Sfida alla saggezza convenzionale
DADVI può essere più efficace di ADVI perché utilizza un metodo di approssimazione efficiente, chiamato approssimazione della media campionaria, che stima una quantità sconosciuta attraverso una serie di passaggi esatti.
I ricercatori hanno testato DADVI su diversi modelli e set di dati reali, scoprendo che può stimare parametri sconosciuti più velocemente e in modo più affidabile rispetto ad altri metodi, raggiungendo un’accuratezza pari o superiore a quella di ADVI. Grazie alla sua facilità d’uso, DADVI potrebbe offrire un vantaggio significativo agli scienziati in una varietà di campi.
In futuro, i ricercatori intendono approfondire i metodi di correzione per le stime dell’incertezza, al fine di comprendere meglio perché queste correzioni possono produrre incertezze così accurate e quando potrebbero non essere sufficienti.
Andrew Gelman, professore di statistica e scienze politiche alla Columbia University, che non è stato coinvolto nello studio, commenta: “In statistica applicata, spesso dobbiamo utilizzare algoritmi approssimativi per problemi troppo complessi o ad alta dimensionalità che non consentono soluzioni esatte da calcolare in tempi ragionevoli. Questo nuovo articolo offre un interessante insieme di teoria e risultati empirici che indicano un miglioramento di un popolare algoritmo approssimativo esistente per l’inferenza bayesiana”.
La ricerca è stata supportata da un National Science Foundation CAREER Award e dall’U.S. Office of Naval Research.
