AI Actと人事：AIシステムはいつ「高リスク」になるのか？

上司がAIロボットだったら？しかも、あなたのマウスの動きやメールの書き方まで監視して、昇進や解雇を決める。そんなディストピアが、すでに現実のものになりつつあります。EUのAI Actは、こうした人事領域のAIシステムを「高リスク」に指定し、厳しい規制をかけようとしています。これは単なるSFではなく、あなたの職場にも影響する話です。

人事AIが「高リスク」になる条件

AI Actでは、人事管理に使われるAIシステムが以下の条件を満たすと高リスクとみなされます：①労働者の行動データやパーソナルデータを収集・分析するもの、②雇用、昇進、解雇など労働者の権利に重大な影響を与えるもの。つまり、履歴書をスキャンするだけのAIはセーフでも、顔認識で感情を読み取る面接AIはアウトになる可能性があります。

【注目スニペット】人事AIが高リスクと判定される主な基準は、行動データの収集と労働者への影響度の大きさです。特に、パフォーマンス評価や解雇判断に使われるAIは、ほぼ確実に高リスクに該当します。

具体例：どのAIが該当する？

例えば、採用選考で応募者のソーシャルメディア投稿を分析するAI。これは行動データに基づき、雇用機会に影響を与えるため高リスクです。また、社員の勤務時間や生産性を常時監視するAIも同様。逆に、社内の人間関係を可視化するだけのツールは、直接的な判断を下さなければ低リスクの可能性があります。

企業が負う義務とは？

高リスクAIを使う企業には、以下の義務が課されます：リスク評価の実施、データガバナンスの確保、透明性の担保（従業員への通知）、人間による監視の仕組み構築。これらを怠ると、罰金は最大3500万ユーロまたは全世界売上高の7％と、かなり痛いです。まるで、AI Actの条文を読むのは、IKEAの説明書なしで家具を組み立てるようなもの。やらないよりはマシだけど、正しくやるのは骨が折れる。

今すぐやるべきこと：人事AIの棚卸し

まず、自社の人事システムで使われているAIをリストアップしましょう。次に、そのAIが「行動データを扱っているか」「労働者の権利に影響するか」をチェック。もし該当するなら、すぐにコンプライアンス対応を始めてください。幸い、AI Actには移行期間がありますが、後悔するより早めの対策が得策です。

FAQ