Quando l'IA fa il giurista: un tribunale argentino annulla una sentenza piena di citazioni fantasma

Immagina di essere un avvocato e di presentare al giudice una sentenza piena di citazioni giuridiche. Peccato che quelle citazioni non esistano. È successo in Argentina, dove un tribunale ha annullato una sentenza perché il giudice aveva usato ChatGPT per scriverla, e l'IA ha generato riferimenti legali inesistenti. Un precedente che fa riflettere: l'IA può essere un assistente, ma non un sostituto del cervello umano.

Il caso: citazioni inventate e un giudice distratto

Un giudice argentino, per velocizzare il lavoro, ha chiesto a ChatGPT di redigere una sentenza. L'IA ha prodotto un testo apparentemente solido, con tanto di citazioni di leggi e giurisprudenza. Peccato che quelle citazioni fossero completamente inventate. Quando la parte soccombente ha fatto ricorso, il tribunale superiore ha scoperto l'inghippo e ha annullato la sentenza, ordinando al giudice di riscriverla da capo.

La decisione è importante perché stabilisce un principio: l'uso dell'IA nel sistema giudiziario non esonera il giudice (e gli avvocati) dal verificare le fonti. Come ha detto il tribunale, "l'IA può essere uno strumento, ma la responsabilità è sempre umana".

Perché è un problema (e non solo per i giudici)

Se pensi che questo riguardi solo i tribunali, ripensaci. Sempre più avvocati usano ChatGPT per scrivere memorie, contratti e pareri. Il problema è che l'IA non ha un senso della verità: genera testo plausibile, ma non verifica i fatti. È come chiedere a un amico molto fantasioso di scrivere una lettera formale: può sembrare convincente, ma i dettagli potrebbero essere inventati.

Per i professionisti legali, il messaggio è chiaro: l'IA è un assistente, non un partner. Usarla senza controllare è come guidare con gli occhi chiusi: prima o poi ti schianti.

Cosa dice la legge (e cosa dovrebbe dire)

In Europa, il Regolamento sull'Intelligenza Artificiale (AI Act) classifica i sistemi di IA usati in ambito giudiziario come "ad alto rischio", richiedendo trasparenza e supervisione umana. Il caso argentino dimostra che queste regole non sono solo burocrazia: servono a evitare che l'IA diventi un pericolo per la giustizia.

In Italia, il Garante per la privacy ha già ammonito gli studi legali sull'uso di ChatGPT, ricordando che i dati sensibili non possono essere inviati a server esteri senza garanzie. Ma il problema non è solo la privacy: è l'affidabilità.

Lezioni per avvocati e non solo

Se sei un avvocato, ecco cosa puoi fare:

• Non fidarti mai ciecamente dell'IA: verifica ogni citazione e ogni dato.
• Usa l'IA per bozze e brainstorming, ma non per il prodotto finale.
• Ricorda che la responsabilità è tua: se sbaglia l'IA, paghi tu.

Per tutti gli altri, la lezione è che l'IA è uno strumento potente, ma non magico. Come un martello: può costruire una casa o romperti un dito. Dipende da come lo usi.

Il caso argentino è un campanello d'allarme. La prossima volta che leggi una sentenza o un parere legale, chiediti: l'ha scritto un umano o un algoritmo? E se è un algoritmo, qualcuno ha controllato?