史丹佛研究:AI 招聘工具對 26% 黑人求職者存在歧視

AI招聘工具歧視黑人

史丹佛大學以人為本人工智能研究所(Stanford HAI)於 6 月發布迄今規模最大的 AI 招聘演算法實地研究,發現 26% 黑人求職者及 15% 亞裔求職者所申請的職位,其 AI 篩選系統對當事人種族群體存在符合美國平等就業機會委員會(EEOC)「五分之四法則」定義的歧視,最受青睞的群體通常為白人求職者。

研究追蹤 340 萬名求職者、400 萬份申請,涵蓋 150 家僱主 11 個產業

研究涵蓋 340 萬名求職者、400 萬份申請、1,700 個職位、150 家僱主及 11 個產業,是全球目前規模最大的 AI 招聘演算法實地研究。對照組為 108 家財星 500 大企業、83,000 份申請,這些企業均未採用 AI 篩選,系統性全拒現象在對照組中幾乎不存在。

EEOC「五分之四法則」規定,若某族群的招聘推薦率低於最高推薦率族群的 80%,即構成「不利影響」的法律門檻。研究依據此標準指出,若以公平比率推薦黑人與亞裔求職者,將有多 40,000 份申請得以晉級至人工審閱階段。

研究同時揭示了歧視的「數字隱藏機制」:若將所有職位的推薦率混合平均計算,歧視在數字上幾乎消失——例如某套 AI 系統偏好推薦黑人從事倉儲物流卻不推薦金融職務,加總後平均值接近公平基準。唯有逐職位、逐族群拆解分析,歧視才能現形。

演算法集中問題:90% 美國僱主使用 AI 篩選,Workday 面臨集體訴訟

使用同一 AI 供應商的 4 家企業中,有 10% 的求職者向這四家全部投遞卻被全部拒絕;而未使用 AI 篩選的對照組中此現象幾乎不存在。研究者將此歸因於「演算法單一文化」:同一套演算法的偏見同時部署在數百家企業,令特定族群求職者在整個就業市場中被系統性排除,且求職者通常完全不知情。

研究者識別出 AI 篩選工具三類已存在的高風險特性:

普遍採用(Pervasively Adopted):約 90% 的美國僱主已在招聘流程中使用

高度後果性(Highly Consequential):直接決定求職者能否進入人工審閱階段

對公眾不透明(Opaque):求職者無從得知是否被演算法篩除,僱主亦未必掌握工具在各職位類別上的實際表現

Workday 的 AI 篩選工具目前面臨集體訴訟,指控涵蓋種族、年齡與殘疾歧視。

科羅拉多 AI Act 於 6 月生效,「合理照護」標準尚未明確

科羅拉多州 AI Act 於 2026 年 6 月正式生效,是目前美國少數明確針對 AI 招聘工具設有合規要求的州級立法,要求開發者採取「合理照護」措施防止歧視。惟「合理照護」的具體內容及執行機制尚待建立。

研究團隊指出,此類研究成立的前提是資料取得,而招聘數據往往由供應商與僱主掌控。研究另指出,2026 年應屆畢業生正面臨近年最艱困的就業環境:企業入門職缺的申請量是 2022 年的 3 倍,AI 篩選工具的使用比例同步攀升。

常見問題

什麼是 EEOC「五分之四法則」,此研究如何據此認定歧視?

「五分之四法則」規定,若某族群的招聘推薦率低於最高推薦率族群的 80%,即達到「不利影響」的法律門檻。史丹佛 HAI 研究以此標準逐職位、逐族群拆解分析 AI 篩選數據,發現 26% 的黑人求職者申請職位及 15% 的亞裔求職者申請職位中,AI 系統對其所屬族群存在符合上述定義的歧視。

為何 AI 招聘歧視過去難以被識別?

歧視在統計上的「消失」是核心原因。將所有職位的推薦率混合平均計算時,AI 在某類職位偏高的推薦率與另一類職位偏低的推薦率相互抵消,整體平均值趨近公平基準。史丹佛 HAI 這份研究透過逐職位、逐族群的細分分析,才讓歧視從數字中現形。

科羅拉多 AI Act 對 AI 招聘工具的具體規定是什麼?

科羅拉多 AI Act 已於 2026 年 6 月生效,要求 AI 招聘工具開發者採取「合理照護」措施防止歧視,是目前美國州級 AI 招聘立法中少數已生效者。法案中「合理照護」的具體標準及對應的執行機制,目前仍待主管機關進一步明確化。

免責聲明:本頁面資訊可能來自第三方來源,僅供參考,不代表 Gate 的立場或觀點,亦不構成任何財務、投資或法律建議。虛擬資產交易具有高風險,請勿僅依賴本頁資訊作出決策。詳情請參閱 免責聲明
回覆
0/400
暫無回覆