AI Act: Όταν το AI στις προσλήψεις γίνεται... επικίνδυνο (για την εταιρεία σου)

Τι σημαίνει «υψηλός κίνδυνος» για ένα σύστημα AI στα HR;

Φαντάσου ότι το βιογραφικό σου το διαβάζει ένας αλγόριθμος που αποφασίζει αν είσαι κατάλληλος, χωρίς να ξέρεις καν πώς. Ακούγεται σαν επεισόδιο του Black Mirror, αλλά είναι η πραγματικότητα. Με τον AI Act, η Ευρωπαϊκή Ένωση βάζει φρένο: τα συστήματα AI που χρησιμοποιούνται στη διαχείριση ανθρώπινου δυναμικού (προσλήψεις, αξιολογήσεις, προαγωγές) μπορεί να χαρακτηριστούν υψηλού κινδύνου αν βασίζονται σε συμπεριφορικά δεδομένα και επηρεάζουν σημαντικά τους εργαζόμενους.

Σύμφωνα με το προτεινόμενο κείμενο του AI Act, ένα σύστημα είναι υψηλού κινδύνου όταν χρησιμοποιείται σε τομείς που επηρεάζουν θεμελιώδη δικαιώματα, όπως η απασχόληση. Για παράδειγμα, αν ένα λογισμικό αναλύει δεδομένα από κάμερες ή μηνύματα για να αξιολογήσει την απόδοση, μπαίνει αυτόματα στο «κόκκινο» καλάθι.

Η ειρωνεία; Πολλές εταιρείες δεν γνωρίζουν καν ότι χρησιμοποιούν τέτοια συστήματα

Είναι σαν να οδηγείς ένα αυτοκίνητο χωρίς να ξέρεις ότι το ABS έχει βγει – και μάλιστα σε δρόμο με κατηφόρα. Ο AI Act απαιτεί από τις επιχειρήσεις να γνωρίζουν τον κίνδυνο και να συμμορφώνονται με αυστηρούς κανόνες διαφάνειας, λογοδοσίας και ανθρώπινης εποπτείας.

Αν το σύστημά σου κρίνει ποιος θα προσληφθεί ή ποιος θα απολυθεί, ετοιμάσου για έναν βουνό από υποχρεώσεις: τεκμηρίωση, αξιολόγηση αντικτύπου, δικαιώματα ενημέρωσης των υποψηφίων. Δεν είναι αστείο – τα πρόστιμα μπορεί να φτάσουν έως 30 εκατομμύρια ευρώ ή το 6% του παγκόσμιου τζίρου.

Πώς να ξέρεις αν το AI σου είναι «παραβατικό»;

Υπάρχει ένα απλό τεστ: αν το σύστημα αξιολογεί, ταξινομεί ή προβλέπει συμπεριφορά εργαζομένων ή υποψηφίων με βάση δεδομένα που δεν είναι strictly επαγγελματικά (π.χ. προσωπικότητα, συναισθήματα, online συμπεριφορά), τότε μάλλον είσαι υψηλού κινδύνου. Ειδικά αν χρησιμοποιείς βιομετρικά ή ιστορικό πλοήγησης, καλύτερα να καλέσεις δικηγόρο.

Όμως μην πανικοβάλλεσαι. Μπορείς να μειώσεις τον κίνδυνο αν το σύστημά σου είναι απλά ένα εργαλείο που υποστηρίζει την απόφαση, όχι η ίδια η απόφαση. Δηλαδή, αν ο άνθρωπος έχει τον τελευταίο λόγο, τότε τα πράγματα γίνονται πιο… ανθρώπινα.

Πρακτικές συμβουλές για συμμόρφωση

• Κάνε έναν έλεγχο: ποια συστήματα χρησιμοποιείς και σε τι βαθμό επηρεάζουν τους εργαζομένους;
• Τεκμηρίωσε τα πάντα: από την προέλευση των δεδομένων μέχρι τον αλγόριθμο λήψης αποφάσεων.
• Ενημέρωσε τους υποψηφίους: πες τους ξεκάθαρα ότι χρησιμοποιείς AI και πώς επηρεάζει την αξιολόγηση.
• Εξασφάλισε ανθρώπινη εποπτεία: ένας άνθρωπος πρέπει να μπορεί να αμφισβητήσει την απόφαση του AI.

FAQ