Il tuo capo è un algoritmo? AI Act e i sistemi HR ad alto rischio

Quando il software decide la tua carriera

Immagina di essere valutato ogni giorno per le tue performance lavorative da un sistema che non conosci, che raccoglie i tuoi dati comportamentali e decide se sei abbastanza 'produttivo'. Sembra fantascienza? Per milioni di lavoratori in Europa, è già realtà, e l'AI Act sta per cambiare le regole del gioco. Leggere i nuovi obblighi normativi è divertente quasi quanto pulire le fughe delle piastrelle con uno spazzolino da denti, ma fidati, ne vale la pena per evitare multe salate.

Featured snippet: Cosa rende un sistema AI ad alto rischio nelle HR?

Secondo l'AI Act, un sistema AI è considerato ad alto rischio quando influisce significativamente sui diritti e sulle opportunità delle persone, come ad esempio nella selezione del personale o nella valutazione delle prestazioni lavorative.

Cosa dice la legge?

L'AI Act classifica come 'ad alto rischio' i sistemi di AI utilizzati per l'assunzione, la promozione, la valutazione delle performance e il monitoraggio dei comportamenti dei lavoratori. Il motivo? Questi sistemi possono generare discriminazioni involontarie, violare la privacy o limitare la libertà individuale. Se un algoritmo decide chi viene assunto o licenziato, il margine di errore è semplicemente inaccettabile.

I criteri per l'alto rischio

Non basta che un sistema HR sia 'smart' per rientrare nella categoria. Devono sussistere tre condizioni: 1) il sistema analizza dati biometrici o comportamentali; 2) l'output ha un impatto concreto sulla vita lavorativa (es. promozione, licenziamento); 3) non c'è un controllo umano significativo. Se il vostro software fa matching tra CV e offerte, oppure valuta l'umore dei dipendenti tramite telecamere, preparatevi a una stretta normativa.

Obblighi per le aziende

Se il vostro sistema HR è classificato ad alto rischio, dovete: eseguire una valutazione di conformità (conformity assessment), garantire trasparenza sugli algoritmi e prevedere un 'human-in-the-loop' che possa ribaltare le decisioni automatizzate. Inoltre, dovete registrare il sistema nel database dell'UE e aggiornare la documentazione periodicamente. Multe? Fino al 7% del fatturato globale annuo. Non male per un semplice software, eh?

Cosa fare ora?

Prima di tutto, fate un audit interno per capire se i vostri sistemi AI rientrano nell'alto rischio. Poi, collaborate con un DPO e un esperto di AI ethics per adeguarvi. E soprattutto, non fate gli struzzi: l'AI Act non è un consiglio, è legge. Se non sapete da dove iniziare, guardate la checklist qui sotto.

FAQ