Sembra la trama di una serie televisiva e invece è successo davvero in Florida, dove una donna di Bonita Springs, nella contea di Lee, è stata arrestata per aver scritto a Claude, il chatbot di Anthropic, frasi che secondo gli investigatori erano minacce vere e proprie contro l’ufficio dello sceriffo. Lei, a quanto ha raccontato lo sceriffo Carmine Marceno, usava l’IA come una specie di diario personale, solo che quel diario era tutt’altro che innocuo.
Cosa è successo
Il 26 settembre 2026, verso le 5:10 del mattino, l’utente ha scritto che stava per sparare all’ufficio dello sceriffo e il giorno dopo avrebbe aggiunto di essersi procurata una nuova pistola, come si legge nel rapporto di arresto riportato da WINK News. I sistemi di sicurezza della piattaforma, che cercano in automatico parole e frasi potenzialmente pericolose, hanno girato la conversazione a un gruppo di persone dell’azienda, le quali vista la gravità dei messaggi hanno avvisato le forze dell’ordine. La donna è stata fermata a casa senza opporre resistenza ed è accusata di minacce scritte di violenza, con un’udienza fissata a novembre.
Le chat con l’IA non sono un diario segreto
Al di là del singolo episodio, il punto è che tanti scrivono ai chatbot come se dall’altra parte non ci fosse nessuno, e non è proprio così. Un sondaggio di DuckDuckGo su quasi 2.000 adulti negli Stati Uniti ha mostrato che solo il 25% sa che le chat possono essere richieste dai tribunali, che il 53% non sapeva o non era sicuro che le conversazioni servano ad addestrare l’IA e che il 43% non conosceva nessuno di questi aspetti. Eppure il 32% degli utenti ha confidato a un’IA qualcosa che non aveva detto neanche alle persone più vicine, e tra gli appassionati si arriva al 56%.
Regole scritte, ma lette da pochi
Non si tratta però di una sorveglianza nascosta, perché la politica d’uso di Anthropic spiega che le violazioni vengono individuate con sistemi di monitoraggio e vieta di usare i suoi prodotti per promuovere violenza o intimidazione, mentre la condivisione dei dati con le autorità è prevista nei casi di emergenza con pericolo di morte o lesioni gravi. Le chat, del resto, finiscono sempre più spesso anche nelle aule di tribunale, e la cosa più sensata è trattare il chatbot per quello che è, uno strumento utile e non un confidente, tenendo presente che chi lo usa per minacciare qualcuno deve aspettarsi di essere preso sul serio.
Credit
- WINK News, Woman arrested after AI threat against Lee County Sheriff’s Office
- DuckDuckGo Research, The AI Privacy Problem
- Anthropic, Usage Policy