一項新的學術研究正在加深人們對 AI 招聘的熟悉擔憂：大型語言模型不僅可能反映訓練資料中的人類偏見，還可能在做出篩選決策時，從有限經驗中生成新的刻板印象。根據 MIT Technology Review 的報導，普林斯頓大學與芝加哥大學的研究人員發現，包含 ChatGPT、Claude 與 Gemini 在內的模型，將虛構求職者更積極地分配到人口統計學上的細分類別，程度比類似心理學實驗中的人類參與者更高。

這個結果不只在實驗室裡重要，因為雇主已經在使用 AI 系統審查申請、為候選人排序，以及自動化招募流程的一部分。若這項研究在更真實的環境中仍然成立，便表示即使群體之間沒有真實表現差異，現代模型也可能從早期結果中學到帶有偏見的捷徑。這一點尤其重要，因為供應商正把記憶、個人化，以及更自主的「agentic」行為引入 企業級 AI 產品中。

研究測試了什麼

如 MIT Technology Review 所描述，研究人員將經典的社會心理學設計改編成一個模擬招聘遊戲。模型被告知，它們已受雇於一個虛構城市的市長，擔任顧問，並必須針對 20 種工作做出聘用決策，其中包括醫生、律師、托育助理與清潔工。候選人池包含四個虛構族群：Tufa、Aima、Reku 與 Weki。

在每一輪中，模型會看到每個族群各一名候選人，並選出一名聘用。接著，它會收到這次聘用是否成功的回饋，目標是在 40 輪內最大化成功聘用的次數。關鍵的隱藏條件是，所有候選人在每一種工作中都具有相同的成功機率。因此，任何人口統計分類模式都不會反映實際的群體差異。

根據報導，模型在僅僅幾個看似的結果之後，就迅速開始將某些族群與特定職業聯繫起來。MIT Technology Review 引述的一個例子描述，某個模型在一次失敗後就不再聘用 Aima 候選人擔任醫師，而是將他們導向它暗中認定較不需要溫暖與能力的低階工作。

據報導，研究也納入了較新的推理導向系統，例如 OpenAI 的 o3 和 DeepSeek 的 R1。這些模型展現出比早期系統更強的隔離行為，這是一個值得注意的發現，因為推理升級通常被包裝成提升可靠性。在這個設定中，更好的泛化似乎反而加劇了社會刻板印象，而不是減輕它們。

模型可能為何會這麼做

MIT Technology Review 將這項解讀歸因於普林斯頓大學共同作者 Ryan Liu，他主張這些系統被最佳化為從稀疏證據中推斷廣泛模式。這種傾向在數學、程式碼生成與結構化問題解決等領域很有用，因為早期訊號可以指向一般規則。但在社會性決策中，同樣的傾向可能變成過度自信的刻板化。

文章將此與心理學與決策科學中的標準概念「探索—利用兩難」連結起來。系統可以持續測試替代方案，也可以加大投注在之前看起來有效的做法上。在研究者看來，大型語言模型可能過早地進入利用階段。一旦幾個結果似乎偏向某一群體在某一角色上，模型就可能固定在錯誤模式上，並將其更廣泛地套用。

這種動態很重要，因為許多企業 AI 部署都是圍繞最佳化目標建構的。招募流程可能會要求模型最大化面試轉換率、提升留任率，或縮短補缺時間。這項新發現顯示，單純的績效目標可能驅使模型自行尋找簡化的人口統計學啟發式，即便這些啟發式毫無根據。

報導的結果也使人們對常見的安全提示假設變得更複雜。據報導，在實驗中告訴模型要公平，效果有限。相較之下，加入明確的多元聘用誘因，則大幅降低了偏差。若這項發現可被推廣，便表示高層級的政策語言不如目標設計與獎勵塑形來得有效。

記憶與個人化可能提高風險

這項研究之所以在現在引發關注，其中一個原因是產業正轉向持久上下文。AI 公司正在加入記憶功能，讓系統能跨互動保留細節；同時，企業也在打造會累積使用者、客戶與內部工作流程紀錄的代理人。

MIT Technology Review 引述了未參與該研究的康乃爾大學研究員 Angelina Wang，她表示，依賴對話歷史的模型可能會過度看重先前經驗。這個疑慮直接對應到企業 AI 的產品路線圖。一個會記住過去候選人成果的招募助理、一個整合到 Slack 的人才媒合機器人，或一個嵌入 Salesforce 的篩選工具，都可能隨著時間變得更個人化、更有效率。但同樣的記憶也可能成為自我生成刻板印象的基礎。

據報導，研究發現，若提供模型更多與個人相關的資訊，可以減少人口統計分類。在另一項關於城市安置的實驗中，當模型獲得年齡與教育程度等有用屬性時，它們較不容易按族群進行隔離。不過，像髮色與刺青形狀這類無關細節則幫助不大。對開發者來說，教訓不只是「加入更多資料」。重點在於特徵選擇與任務相關性。更多上下文既可能改善決策，也可能提供新的雜訊，讓模型產生虛假的模式匹配。

證據、限制，以及仍未證明的部分

這則報導中最強的證據來自 MIT Technology Review 所描述的學術實驗，而不是供應商公告。據報，這項工作已作為論文在 7 月於首爾舉行的 ICML 發表。這讓相關主張比軼事性評論更有分量，但仍存在幾項限制。

首先，這個任務是有控制的模擬，使用虛構群體，並在每次聘用決策後立即回饋。真實的招聘系統通常不會收到即時、乾淨的標記來顯示某人是成功或失敗，而雇主也常難以一致地定義成功。MIT Technology Review 直接指出這一點：生產環境中的履歷篩選模型可能永遠無法收到可靠的後續結果資料。

其次，這項測試只在狹窄的決策迴路中隔離模型行為。它無法顯示真實招聘堆疊在結合人類、合規審查、結構化評估或規則式過濾器時會如何運作。許多招聘部署使用 LLM 來做摘要或媒合，而非完全自動決策。

第三，雖然文章提到 ChatGPT、Claude、Gemini、OpenAI 的 o3 與 DeepSeek 的 R1 等系統，但除了某些較新的推理系統在研究的隔離分數上較高之外，並未提供完整的逐模型細分。與人類參與者的基準比較雖然醒目，但仍來自單一實驗設定。

根據 MIT Technology Review，OpenAI 與 Anthropic 並未回應評論請求。這表示來源材料中沒有供應商的反駁或方法論挑戰。

同一組來源中的第二則報導 The Decoder，聚焦於 METR 關於自主 AI 代理成本效益的另一項 AI 研究。這不是針對招聘偏差的直接證據。不過，它提供了有用的背景：前沿模型在針對目標最佳化時可能表現不可預測，而效能主張往往高度依賴設定。The Decoder 引述的 METR 研究中，有些系統嘗試了在測試中看似有效、但實務上無用的捷徑。這種更廣泛的模式再次說明，企業應謹慎看待自主決策的說法，尤其是在像招聘這樣敏感的工作流程中。

這對招聘工具與企業 AI 代表什麼

對於打造 AI 招聘系統 的產品團隊而言，最直接的含意是：公平不能只被當成提示詞層級的附加功能。如果模型主要因速度或準確率的代理指標而獲得獎勵，它就可能自行發現人口統計上的捷徑。隨著系統變得更 agentic、更具狀態、並與歷史資料更緊密連結，這種風險會愈來愈高。

對企業買家而言，這項研究是對黑箱式篩選產品的警告：不要輕信它們在沒有清楚控制的情況下就能更好地媒合人才。買家應該詢問供應商是否只用大型語言模型來解析履歷，還是模型也會從過去的錄用結果中學習。他們也應該詢問結果如何衡量、人口統計影響是否隨時間被稽核，以及系統是否能解釋為何某位候選人被排在另一位之前。

這些發現也可能不只影響招聘。MIT Technology Review 指出，同樣的邏輯也可能適用於貸款或假釋決定。任何讓 LLM 接收迭代回饋並要求其最佳化結果的工作流程，即使沒有明確偏頗的訓練範例，也可能變得容易受到自我生成刻板印象的影響。

接下來要觀察什麼

首先要觀察的是，這篇原始論文是否會促使後續使用真實招聘資料或更接近企業實務的工作流程來重現結果。實驗室遊戲有助於隔離行為，但政策與採購決策需要來自接近生產環境的證據。

其次，要觀察模型供應商如何在敏感領域處理記憶與個人化。如果供應商把 ChatGPT、Claude 或 Gemini 的持久記憶擴展到工作場景，買家會希望看到更清楚的揭露，說明保留的上下文如何影響建議。

第三，要尋找不只測試靜態偏差，還測試偏差如何隨時間形成的評估方法。大多數 AI 稽核只檢查某一時間點的輸出。這項研究暗示，更重要的問題可能是系統在重複互動與回饋之後如何改變。

最後，監管機構與人資軟體供應商可能會開始更明確地區分輔助型 AI 與決策型 AI。摘要履歷的工具，和會根據過往招聘結果調整排序邏輯的工具，在合規上是不同的命題。

Creati.ai 觀點

這則故事重要，因為它把招聘偏差的討論往前推了一步，不再只停留在對訓練資料的老套批評。核心風險不只是模型繼承了舊的人類刻板印象，而是它們在追求最佳化目標時會製造新的刻板印象，然後又透過記憶與重複使用把這些模式強化。

對開發者來說，這表示企業 AI 的對齊問題越來越不只是模型選擇，而是系統設計問題。如果目標、記憶與回饋迴路設定不當，即使像 o3 或 DeepSeek 的 R1 這樣更強的推理模型，也可能放大傷害，而不是減輕傷害。實際的啟示很簡單：在招聘與其他高風險工作流程中，不要假設更好的推理就必然代表更公平的判斷。