来自普林斯顿大学和芝加哥大学的最新研究表明，大型语言模型（LLM）在执行招聘任务时容易产生原创性偏见，其对申请人的刻板印象可能比人类更为严重。这项在首尔举行的 ICML 会议上发表的研究，利用了一个模拟招聘游戏，要求 ChatGPT、Claude 和 Gemini 等模型使用来自四个虚构族群的候选人来填补各种工作岗位。

在实验中，所有候选人的资历完全相同，但模型很快开始根据有限的结果将群体隔离到特定的工作类别中。例如，如果一个模型观察到来自特定群体的候选人在高技能岗位上出现过一次失败，它往往会停止为类似职位招聘该群体的成员。在人类参与者得分为 0.84 的隔离量表上，模型的得分明显更高；OpenAI 的 o3 模型达到了 1.83，接近最高可能得分。

Advertisement

普林斯顿大学博士生、该研究的合著者 Ryan Liu 指出，大型语言模型被优化为从有限的数据中进行概括，这一特性有助于解决逻辑难题，但在社会背景下却会导致问题的刻板印象。研究发现，具有更高推理能力、更新且更先进的模型往往表现出更强的偏见。此外，指示模型保持公平的尝试在很大程度上是无效的，尽管提供多样化招聘的奖金成功减少了偏见行为。

该研究还强调，向模型提供有关候选人的相关个人信息（例如教育背景和年龄）有助于减轻种族隔离。然而，当模型被提供无关数据（例如身体特征）时，它们又会回归到刻板印象。专家建议，随着人工智能系统获得改进的记忆力和个性化能力，这些模型在贷款或招聘等现实应用中形成并强化新的、未习得偏见的风险仍然是一个重大担忧。

来源：麻省理工科技评论