I ricercatori hanno sviluppato una tecnica innovativa denominata programmi incorporati in linguaggio naturale (NLEPs), che migliora significativamente le prestazioni dei modelli di linguaggio di grandi dimensioni. Questo metodo consiste nel generare programmi in Python per risolvere compiti complessi, migliorando così precisione, efficienza e trasparenza. In particolare, i modelli come GPT-4 possono ora affrontare un ventaglio più ampio di compiti con maggiore accuratezza, e questa tecnologia potrebbe anche beneficiare la privacy dei dati e ottimizzare le prestazioni di modelli più piccoli senza necessità di un estensivo riaddestramento.
L’approccio NLEP permette ai modelli di elaborare e rispondere a quesiti utilizzando un programma Python che, una volta eseguito, restituisce la soluzione in linguaggio naturale. Questo non solo eleva la precisione delle risposte ma rende anche il processo completamente trasparente per l’utente, il quale può verificare e modificare il codice generato in caso di errori. Questa caratteristica è fondamentale per garantire una maggiore fiducia e comprensione delle operazioni svolte dall’intelligenza artificiale.
Il design degli NLEP prevede una sequenza di quattro passaggi: inizialmente, il modello carica i pacchetti necessari per l’elaborazione del compito; successivamente, importa le rappresentazioni in linguaggio naturale delle informazioni richieste; poi, implementa una funzione che calcola la risposta; infine, restituisce il risultato in linguaggio naturale, integrando, se necessario, una visualizzazione automatica dei dati.
Questa metodologia non solo aumenta l’efficienza – permettendo di generare un programma base modificabile per rispondere a domande simili senza dover rielaborare il modello – ma migliora anche la privacy dei dati, poiché i programmi NLEP vengono eseguiti localmente e non richiedono l’invio di dati sensibili a terze parti per l’elaborazione.
I risultati ottenuti dai ricercatori indicano che gli NLEP hanno raggiunto una precisione superiore al 90% in una serie di compiti di ragionamento simbolico, oltre a mostrare un miglioramento del 30% rispetto ai metodi di sollecitazione specifici per compito. Questi progressi sono stati documentati in uno studio che sarà presentato alla Conferenza Annuale del Capitolo Nordamericano dell’Associazione per la Linguistica Computazionale.
In futuro, i ricercatori intendono esplorare metodi per rendere i modelli di linguaggio più piccoli capaci di generare NLEP più efficaci e studiare l’impatto delle variazioni delle sollecitazioni sugli NLEP per potenziare la robustezza dei processi di ragionamento del modello. Questo studio è stato supportato, in parte, dal Centro per l’Intelligenza Percepita e Interattiva di Hong Kong.