MIT Tech Review : AI develops recruitment biases faster than humans

アルゴリズム採用におけるバイアスは遺伝的なものではなく、生み出されたものであることが研究により明らかになった。人事担当者が測ることなく恐れていた事象が、実際に裏付けられた。

簡単に言えば。

MIT Technology Review (20/07/2026) は、LLMがトレーニングデータから受け継いだバイアスに加えて、独自の採用バイアスを発展させる可能性があるという研究を報告している。つまり、データのクリーニングだけでは不十分だということだ。

背景

2023年以降、HRにおけるAIバイアスの議論は「歴史的データの反映」（受け継がれたバイアスで、デバイアシングにより修正可能）と「システム的増幅」（モデルによって生じるバイアスで、データのみでは修正不可能）の2つの陣営に分かれている。MIT Tech Reviewが紹介する研究は後者を支持しつつ、前者を否定するものではない。規制の枠組みは複雑だ：NYC Local Law 144（AEDT監査）は2023年から施行されており、カリフォルニア州ではAI支援のHR意思決定に関する議論が進み、EU AI Actでは2026年からHR「高リスク」システムに段階的な適用が始まる（2026-2027年にかけて完全移行）。

データ

• 出版：MIT Technology Review, 20/07/2026（基礎研究の検証が必要：学術か産業か、手法の詳細）
• 報告された結果：LLMはトレーニングデータに既に存在するバイアスに加えて、属性と能力判断の間に独自のバイアスを発展させる可能性がある。
• 既知の事例：Amazon 2018（性別バイアスで廃止された採用ツール）、Meta 2026（アルゴリズム管理に関する訴訟）。

分析

2点。1つ目：構造が一定のまま「より良いトレーニングで解決する」という主張は不十分だ。バイアス形成の一部は、データソースだけでなく、最大化という目的自体に内在する。2つ目：米国の差別的影響（disparate impact）と欧州のAI Act第14条は外部監査の義務で一致するが、いずれも標準化された方法を規定していない。企業は独自のベンチマークでテストするが、その結果は比較不可能だ。

シナリオ

• 中央値（55%）：規制当局（カリフォルニア、NYC、EU）が12-18ヶ月以内に監査基準を設定。HRテックベンダー（Workday、iCIMS、Eightfold）はバイアスが解決されないままこれに従う。
• 訴訟（25%）：集団訴訟が9桁または10桁規模の和解に至る。LLMのHR現場採用に対する抑止効果。
• 人間への回帰（20%）：大手採用企業がMetaの訴訟後をモデルに、最終段階で人間を再導入。

示唆

人事部長にとって：バイアス監査の文書化はチェックボックスではなく契約上の義務となる。HRテック投資家にとって：2027年以降、監査可能性が精度に代わる購入基準となる。創業者にとって：外部監査機能を統合しないAI採用スコアリングへの参入は避けるべき。

要注目

• 基礎研究の発表（ArXiv、学術誌、産業レポート）。
• Metaの訴訟（アルゴリズム管理）の行方。
• EU AI ActのHR高リスクバイアステストに関するリファレンスの発表。