AI in banca e sanità: non basta che funzioni, deve anche spiegarsi

Quando l'AI decide per te

Immagina di fare richiesta per un mutuo e ricevere un rifiuto secco: "La nostra AI ha valutato la sua richiesta negativamente". Fine. Nessuna spiegazione. O peggio, un referto medico che dice "Rischio cancro: 78%" senza dirti perché. In banca e sanità, l'AI non può essere una scatola nera: deve spiegare le sue decisioni, o non è affidabile.

Il Regolamento Generale sulla Protezione dei Dati (GDPR) già impone il diritto alla spiegazione per decisioni automatizzate. Ma la pratica è un'altra storia. Serve un cambio di paradigma: da AI che funziona a AI che si spiega.

Il diritto alla spiegazione non è un lusso

L'articolo 22 del GDPR stabilisce che hai diritto a non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, se ti produce effetti giuridici o significativi. E se lo sei, devi poter ottenere una spiegazione. Ma cosa significa "spiegazione"? Non un algoritmo complesso, ma un motivo comprensibile: "La sua richiesta è stata respinta perché il suo rapporto debito/reddito supera la soglia del 40%."

In sanità, l'AI diagnostica può salvare vite, ma se non spiega perché ha rilevato un tumore, il medico non può fidarsi. Serve un'interfaccia che traduca i pattern in linguaggio umano. Altrimenti, è come un oracolo greco: funziona, ma non sai perché.

Trasparenza come requisito legale e di business

Le banche e le strutture sanitarie che adottano AI spiegabile non solo rispettano la legge, ma costruiscono fiducia. Un cliente che capisce perché è stato rifiutato può correggere il tiro; un paziente che capisce la diagnosi collabora meglio. La trasparenza riduce i reclami e i contenziosi.

La normativa GDPR è chiara: le decisioni automatizzate devono essere spiegabili. Ma l'AI Act europeo va oltre, classificando i sistemi di AI in base al rischio e imponendo requisiti di trasparenza per quelli ad alto rischio, come in banca e sanità.

Come si spiega un algoritmo?

Non serve diventare data scientist. Le tecniche di Explainable AI (XAI) come LIME o SHAP permettono di evidenziare quali fattori hanno influenzato la decisione. Ad esempio, per un rifiuto di mutuo: "Il peso maggiore è stato il tuo punteggio di credito (60%), seguito dal reddito (30%) e dalla stabilità lavorativa (10%)."

In sanità, un modello può mostrare le aree di un'immagine radiologica che hanno portato alla diagnosi. Il medico può così verificare e decidere con cognizione di causa. L'AI non sostituisce il professionista, lo supporta.

Il rischio dell'AI opaca

Se l'AI non si spiega, si creano discriminazioni nascoste. Un algoritmo che rifiuta prestiti a minoranze etniche senza spiegazione è illegale, ma anche difficile da smascherare. La trasparenza è l'antidoto ai bias. In sanità, un'AI che sottovaluta i sintomi nelle donne potrebbe causare ritardi diagnostici. Spiegare le decisioni permette di individuare e correggere questi errori.

Verso un'AI responsabile

Le aziende che investono in AI spiegabile non solo evitano multe (fino al 4% del fatturato globale per violazione GDPR), ma guadagnano reputazione. I consumatori sono sempre più attenti all'etica dei dati. Un'AI che spiega è un'AI che rispetta le persone.

Non aspettare che arrivi una sanzione. Inizia a chiedere ai tuoi fornitori di AI: "Come spieghi le tue decisioni?" Se non sanno rispondere, cambia fornitore. La trasparenza non è un costo, è un investimento.

FAQ