Leading AI models (even Grok) are all a bunch of leftist punks2 months agohttps://www.theregister.com/ai-and-ml/2026/07/27/leading-ai-models-even-grok-are...Unslop.run 的一项实验对 16 个领先 AI 模型进行了政治指南针测试；大多数模型持续得分在自由意志主义-左翼象限。Grok（马斯克的模型）是个例外，在不同运行中在经济左翼和右翼之间交替。所有模型都拒绝了种族主义、优生学和恐同思想，并支持环境监管、同性伴侣收养和隐私。研究者 Victor 认为，训练数据（如 Reddit、学术写作）中左翼内容的过度代表是可能的原因，而非现实固有的自由主义偏见。模型倾向于认为自己属于中间派，但实测立场偏左。
Show HN: What's AI's go-to, public or private healthcare?2 months agohttps://www.modelbias.ai/prompt/public-or-private-healthcare该实验通过简单的二元提示，探讨了人工智能模型在公共与私人医疗之间的默认选择。公共医疗是最常见的回应，占提供者平衡结果的83.3%。该数据集包含100个热门AI模型，每个模型被询问三次，通过OpenRouter API收集回应。方法论排除了仅免费和美国限制的模型；未指定生成参数。回应被标准化用于分析，拒绝或无效回答被归类为“无有效选择或拒绝回答”。
Ontario prison AI assigns black prisoners harsher living conditions2 months agohttps://breachmedia.ca/black-prisoners-are-assigned-harsher-living-conditions-in...安大略省监狱使用名为SAFER的人工智能工具，根据个人数据为囚犯分配安全评分，由于输入数据带有种族偏见，导致黑人囚犯受到更严厉的对待。黑人囚犯尽管仅占安大略省人口的5.4%，却不成比例地被安置在最高安全级别监狱中，同时针对原住民囚犯存在缓解措施，但对黑人囚犯则没有。一项集体诉讼指控SAFER违反了《宪章》权利，剥夺了平等保护，批评者指出警方和法院数据中存在系统性歧视。囚犯的探视和便利设施获取取决于SAFER评分，黑人女性尤其受到影响，被指定为最高安全级别的比例是白人女性的两倍。监狱工作人员可以推翻SAFER的决定，但在行使自由裁量权时，特别是在涉及帮派从属关系方面，可能进一步对黑人囚犯不利。SAFER算法的运作方式未公开，其预测性主张缺乏公开证据，引发了对历史偏见数据导致算法偏见的担忧。安大略省监察员收到了关于SAFER的投诉，指出其影响不成比例，且缺乏关于通过规划降低评分的透明度。刑事司法中的人工智能工具存在通过‘黑箱’算法延续偏见的风险，警告称可能出现诸如种族或邮政编码等虚假相关性。
AI is more likely than humans to form biases when hiring2 months agohttps://www.technologyreview.com/2026/07/20/1140655/ai-biases-hiring-humans/AI模型（包括像OpenAI o3这样的先进模型）在招聘模拟中会产生偏见，对求职者的刻板印象比人类更严重。在实验中，AI根据有限的数据快速进行泛化，将虚构的种族群体分配到特定职位，即使所有候选人都同样有能力。这种刻板印象倾向源于大型语言模型（LLM）从少数例子中泛化的优化策略，这在逻辑任务中有效，但在社交环境中会导致偏见。推理能力更强的新模型显示出更严重的偏见，随着聊天机器人获得可能强化这些刻板印象的记忆功能，这引发了担忧。为多样化招聘提供奖金可以减少偏见，这表明设计具有社会价值的目标可以使AI行为更符合期望。提供与个人相关的信息（如年龄和教育背景）可以减少隔离，而不相关的细节（如头发颜色）则会增加隔离。现实世界的影响尚不确定，因为招聘中的AI不会像模拟中那样立即收到关于招聘成功的反馈。研究人员警告，AI可能会发展出超越训练数据的新偏见，因为它在招聘和贷款等领域中从经验中学习。