人工智慧招聘工具中的演算法偏見如何複製職場歧視

公司越來越多地使用基於機器學習的軟體來篩選履歷、排序候選人，甚至進行早期面試。研究人員和監管機構發現，其中許多系統為不同性別、種族或年齡的申請人產生不同的結果，即使他們的基本資格完全相同。

招聘中的演算法偏見是什麼？

當機器學習系統的輸出系統性地有利或不利於某些群體，與工作相關的資格無關時，就會出現演算法偏見。美國國家標準與技術研究院(NIST)草案標準SP 1270『邁向識別和管理人工智慧偏見的標準』上發表的公開評論，該標準發佈在NIST網站上，將其描述為社會技術問題：偏見不僅可以通過演算法的統計設計進入，也可以通過它所訓練的歷史數據以及部署它的人力和制度背景進入。

特別是在招聘中，模型通常基於過去的履歷、過去的招聘決定或大型語言模型(LLM)生成的文本進行訓練。如果產生該歷史數據的勞動力本身因性別、種族或年齡而存在偏差——這是許多行業的共同特徵——模型可以學會重現該偏差，好像它是成績的衡量標準。

已記錄的案例：亞馬遜廢棄的招聘引擎

根據美國公民自由聯盟(ACLU)的說法，最早和最廣泛引用的例子之一涉及亞馬遜從2014年開始建立的實驗性招聘工具，以將求職者評分從一到五顆星。該系統通過觀察該公司在大約十年內收到的履歷中的模式進行訓練，該池在很大程度上是男性，反映了所涉及技術角色中的男性主導地位。

ACLU報告稱，該工具對包含『婦女』一詞的履歷進行了懲罰——例如『婦女欖球隊』——並降級了兩所全女性大學的畢業生，同時更喜歡使用男性技術履歷中更常見動詞的履歷，例如『執行』和『捕獲』。根據ACLU對該項目報告的說法，亞馬遜的工程師試圖解決這個模式，但得出結論，根本問題無法被保證消除，並在2015年關閉了該工具，大約在它開始測試一年後。

最近關於AI履歷篩選的研究發現了什麼

較新的研究已經測試了現在嵌入許多商業招聘產品中的大型語言模型。華盛頓大學在2024年10月在AAAI/ACM人工智慧、倫理和社會會議上提交的研究測試了三個開源LLM——來自Mistral AI、Salesforce和Contextual AI——通過將120個與白人和黑人男性和女性相關的名字分配給超過550份真實履歷，並針對九個職業的超過500份真實職位發佈進行排名，產生了超過300萬份履歷與職位的比較。

華盛頓大學信息學院的主要作者Kyra Wilson和共同作者Aylin Caliskan發現，帶有白人相關名字的履歷在85%的時間被青睞，而黑人相關名字只有9%，男性相關名字在52%的時間被偏好，而女性相關名字只有11%。研究人員說，模型從未將黑人男性相關名字列為比白人男性名字更受歡迎，只有當將種族和性別一起分析而不是分開分析時，這種模式才變得可見。

關鍵發現一覽

偏見機制如何運作

在每個已記錄的案例中，該模式可追溯到訓練數據或模型從其訓練文本中吸收的關聯，而不是明確的歧視指令。亞馬遜工具從歷史上以男性為主的申請人群體中學習。華盛頓大學研究人員測試的LLM從訓練它們的更廣泛文本語料庫中攜帶了基於名字的種族和性別關聯。

對NIST草案偏見標準的評論指出，由於這些系統在現有的社會和制度結構內運作，僅從數據集中移除偏見不能保證公平的結果——這一結論與亞馬遜自己的經驗相符，如ACLU所述，當工程師的重複修復未能解決潛在模式時。

監管機構如何應對

紐約市的第144號地方法律，由消費者和勞工保護部從2023年7月起執行，要求使用『自動就業決策工具』進行招聘或晉升的雇主每年委託獨立偏見審計，公開發佈審計結果摘要，並在使用該工具之前給候選人至少十個工作日的通知，根據律師事務所Pivot Point Security對該措施的總結。根據同一份總結，違規行為可能導致民事罰款，從每次違規500美元到1,500美元。

加州民權委員會根據該州的《公平就業和住房法》採納了新規定，自2025年10月1日生效，澄清了雇主使用『自動決策系統』可能違反州法律，如果它基於受保護的特徵（如種族、性別或殘疾）傷害申請人或員工，根據委員會自己的2025年6月公告。該規定要求雇主保留自動決策數據至少四年，並指出某些收集殘疾相關信息的自動評估可能算作違法的醫療查詢。

這對求職者和雇主意味著什麼

• 迄今為止在招聘AI中發現的偏見已追蹤了訓練數據中存在的社會模式——歷史履歷、線上圖像或通用文本——而不是隨機出現。
• 已記錄的效果包括有利於來自歷史上佔主導地位的人口統計學群體的履歷，並為相同的基本資格產生系統性不同的結果。
• 紐約市和加州現在對使用這些工具的雇主施加了具體的法律義務——審計、記錄保存或兩者——儘管不同司法管轄區的要求不同。
• 華盛頓大學研究人員表示，在一個人口統計學類別（例如單獨的種族）中確定的偏見可以掩蓋只有在類別組合時才可見的不同影響，例如種族和性別的組合。