Le chat con sistemi di intelligenza artificiale entrano sempre di più nelle aule di tribunale. Da un lato vengono usate come possibili elementi di prova, per ricostruire pensieri, minacce, pianificazioni o stati d’animo in casi che vanno dallo stalking fino agli omicidi, con giudici chiamati a decidere quanto peso dare a contenuti prodotti conversando con un chatbot e quanto invece considerarli solo indizi da incrociare con altre evidenze più tradizionali. Dall’altro lato le stesse piattaforme finiscono coinvolte direttamente nelle cause, sia per le allucinazioni che possono creare falsi profili di persone innocenti, sia per il modo in cui raccolgono e conservano enormi quantità di dati personali, spesso senza che gli utenti abbiano davvero chiaro chi può accedere a quelle informazioni e per quanto tempo.
La domanda vera allora è semplice: una chat con l’AI è privata oppure no? La risposta è scomoda, perché dipende dal contesto, dalle regole del servizio, dai log conservati dal fornitore e dall’eventuale intervento dell’autorità giudiziaria. In altre parole, l’idea che quella conversazione resti confinata tra utente e interfaccia è sempre meno solida, soprattutto quando il contenuto può diventare utile per ricostruire fatti, intenzioni o comportamenti rilevanti in sede investigativa.
Qui il confine tra privacy, sicurezza e controllo diventa sottile. Alcuni provvedimenti hanno imposto ai gestori dei modelli di conservare in modo esteso log e conversazioni, per permettere a magistrati e forze dell’ordine di cercare elementi utili nelle indagini, inclusi dati che gli utenti pensavano di aver cancellato dalle interfacce del servizio. Questa esigenza investigativa però si scontra con principi cardine della protezione dei dati, come la minimizzazione, il limite di conservazione e il diritto all’oblio, soprattutto quando dentro le chat ci sono dettagli intimi su salute, relazioni, situazione lavorativa o fragilità psicologiche che le persone condividono credendo di “parlare” con un assistente neutrale.
Ma davvero conservare più dati significa avere più sicurezza? Non sempre, perché una raccolta ampia di conversazioni sensibili crea anche una massa di informazioni delicate che può essere esposta, richiesta, analizzata fuori contesto o persino violata. Più cresce il valore investigativo di questi archivi, più cresce anche il loro valore come bersaglio e come terreno di scontro tra esigenze legittime diverse: accertare i fatti, proteggere le persone e non trasformare ogni interazione digitale in un atto permanente.
La linea di equilibrio la stanno tracciando tribunali e autorità. Alcune decisioni ridimensionano la possibilità delle autorità nazionali di bloccare o limitare servizi globali se non ricorrono presupposti precisi, riconoscendo in certi casi come base giuridica il legittimo interesse dei fornitori a trattare dati per addestrare i modelli, ma chiedendo più trasparenza verso utenti e “non utenti” citati nelle risposte dell’AI. Altre pronunce invece mettono paletti all’utilizzo disinvolto dell’AI negli atti giudiziari o nelle decisioni dei giudici, chiarendo che errori e allucinazioni dei modelli non possono scaricare responsabilità su una “scatola nera” tecnologica e che chi usa l’AI in contesti legali resta pienamente responsabile del contenuto che firma e presenta in giudizio.
C’è poi una seconda domanda che pesa più di quanto sembri: possiamo fidarci di una chat come se raccontasse la verità dei fatti? Anche qui la risposta è no, almeno non da sola, perché i modelli generativi possono inventare riferimenti, distorcere il senso di una richiesta o costruire affermazioni plausibili ma false. Questo vale nel processo, dove una conversazione con l’AI non può sostituire prove e verifiche, ma vale anche fuori dal tribunale, perché molte persone affidano a questi strumenti dubbi profondi, decisioni delicate e frammenti molto personali della propria vita.
Per le organizzazioni questa zona grigia ha due conseguenze pratiche. Primo, ogni interazione con l’AI andrebbe trattata come potenzialmente tracciabile, accessibile in futuro in sede forense e collegabile a persone identificate o identificabili. Questo implica policy chiare su cosa si può inserire nei prompt, gestione attenta dei dati sensibili e formazione delle persone per evitare che conversazioni con chatbot contengano informazioni che l’azienda non vorrebbe mai vedere in un fascicolo o in mano a controparti in un contenzioso. Secondo, occorre verificare come i fornitori gestiscono logging, retention, basi giuridiche e diritti degli interessati, perché il confine tra “strumento di produttività” e “sorgente di rischio legale” è sottile e dipende da scelte concrete su configurazione, contratti e governance.
E allora dove finisce davvero la privacy e dove inizia il controllo? Finisce nel momento in cui trattiamo questi strumenti come spazi neutri e senza memoria, mentre inizia dove mancano regole chiare, trasparenza e consapevolezza su come i dati vengono raccolti, conservati e riutilizzati. Il punto non è demonizzare l’AI né immaginare riservatezze assolute che oggi non esistono. Il punto è capire che ogni chat può avere un peso giuridico, umano e organizzativo molto più grande di quello che sembra quando la finestra si apre sullo schermo.