(METEOGIORNALE.IT) I modelli linguistici avanzati (LLM), una sottocategoria dell’intelligenza artificiale (AI), sono stati particolarmente esaminati. Questi modelli utilizzano l’AI generativa per produrre risposte che sembrano sorprendentemente umane a qualsiasi domanda formulata. Esempi notevoli includono ChatGPT e Gemini di Google, entrambi addestrati su vasti archivi di dati. Tuttavia, questi modelli non sono esenti da problemi quali questioni di privacy e proprietà intellettuale.
A differenza dei motori di ricerca tradizionali, gli LLM non richiedono una sintassi specifica per filtrare i risultati; teoricamente è sufficiente porre una domanda come se si stesse parlando ad alta voce. Nonostante le loro capacità impressionanti e la sicurezza nelle risposte fornite, questi chatbot tendono a mostrare la stessa confidenza anche quando le informazioni comunicate sono completamente errate.
Il documento evidenzia come gli LLM siano essenzialmente motori di generazione testuale progettati per prevedere quale sequenza di parole verrà dopo in un testo dato. La veridicità delle loro risposte è solo uno degli aspetti valutati durante lo sviluppo e spesso può essere sacrificata in favore della semplicità o della persuasività della risposta.
La ricerca ha messo in luce il problema del “discorso negligente”, ovvero quando le risposte degli LLM possono influenzare negativamente le conversazioni umane offline. Di fronte a questo scenario preoccupante, i ricercatori hanno proposto l’introduzione di un nuovo quadro normativo che imponga agli sviluppatori degli LLM il dovere legale di minimizzare il discorso negligente sia nei modelli a scopo specifico sia in quelli generalisti.
Esaminando la legislazione attuale dell’Unione Europea (UE), gli autori hanno constatato che esistono poche situazioni esplicite in cui viene imposto un dovere di veridicità; queste si limitano principalmente a settori o istituzioni specifiche e raramente si applicano al settore privato. Poiché gli LLM rappresentano una tecnologia relativamente nuova, molte delle normative vigenti non sono state concepite tenendo conto dei modelli basati su AI.
Il documento suggerisce che i produttori trovino un equilibrio migliore tra “utilità” e veridicità delle informazioni fornite dagli LLMs. Sebbene ciò possa essere complesso da realizzare nella pratica quotidiana dello sviluppo software AI-based language models, è considerato possibile dagli autori del documento pubblicato sulla rivista Royal Society Open Science. (METEOGIORNALE.IT)
