Il dottorato di ricerca della dott.ssa Kurian, focalizzato sul benessere infantile, ha portato alla creazione di un framework per un’AI sicura per i bambini, in risposta a incidenti preoccupanti. Ad esempio, nel 2021, l’assistente vocale AI di Amazon, Alexa, ha suggerito a un bambino di 10 anni di toccare una presa elettrica con una moneta. Inoltre, l’AI di Snapchat ha fornito consigli inappropriati a ricercatori adulti che si fingevano adolescenti. Questi episodi dimostrano come l’AI possa fallire nel rispondere in modo sicuro e appropriato alle interazioni con i giovani utenti.
La ricerca ha analizzato questi casi utilizzando intuizioni dalla scienza informatica riguardo il funzionamento dei modelli di linguaggio di grandi dimensioni (LLM), che sono capaci di mimare i pattern linguistici attraverso la probabilità statistica, senza una vera comprensione del contenuto. Questo metodo, tuttavia, non garantisce una gestione efficace degli aspetti emotivi e astratti della conversazione, creando una lacuna empatica. I bambini, che sono in una fase cruciale dello sviluppo linguistico e cognitivo, possono trovare particolarmente disorientante e problematico quando l’AI non risponde adeguatamente alle loro espressioni spesso ambigue o personali.
Il framework proposto mira a orientare sviluppatori, educatori e policy maker verso una progettazione dell’AI che tenga conto delle esigenze dei bambini fin dalle prime fasi di sviluppo, evitando così rischi e incidenti. Tra le raccomandazioni, si suggerisce di valutare come i nuovi chatbot comprendono e interpretano i modelli di linguaggio dei bambini, se dispongono di filtri di contenuto e monitoraggio integrato, e se incoraggiano i bambini a cercare aiuto da un adulto responsabile in caso di questioni sensibili.