AI is more likely than humans to form biases when hiring
18 hours ago
- AI模型（包括像OpenAI o3这样的先进模型）在招聘模拟中会产生偏见，对求职者的刻板印象比人类更严重。
- 在实验中，AI根据有限的数据快速进行泛化，将虚构的种族群体分配到特定职位，即使所有候选人都同样有能力。
- 这种刻板印象倾向源于大型语言模型（LLM）从少数例子中泛化的优化策略，这在逻辑任务中有效，但在社交环境中会导致偏见。
- 推理能力更强的新模型显示出更严重的偏见，随着聊天机器人获得可能强化这些刻板印象的记忆功能，这引发了担忧。
- 为多样化招聘提供奖金可以减少偏见，这表明设计具有社会价值的目标可以使AI行为更符合期望。
- 提供与个人相关的信息（如年龄和教育背景）可以减少隔离，而不相关的细节（如头发颜色）则会增加隔离。
- 现实世界的影响尚不确定，因为招聘中的AI不会像模拟中那样立即收到关于招聘成功的反馈。
- 研究人员警告，AI可能会发展出超越训练数据的新偏见，因为它在招聘和贷款等领域中从经验中学习。