Ontario prison AI assigns black prisoners harsher living conditions
14 hours ago
- 安大略省监狱使用名为SAFER的人工智能工具，根据个人数据为囚犯分配安全评分，由于输入数据带有种族偏见，导致黑人囚犯受到更严厉的对待。
- 黑人囚犯尽管仅占安大略省人口的5.4%，却不成比例地被安置在最高安全级别监狱中，同时针对原住民囚犯存在缓解措施，但对黑人囚犯则没有。
- 一项集体诉讼指控SAFER违反了《宪章》权利，剥夺了平等保护，批评者指出警方和法院数据中存在系统性歧视。
- 囚犯的探视和便利设施获取取决于SAFER评分，黑人女性尤其受到影响，被指定为最高安全级别的比例是白人女性的两倍。
- 监狱工作人员可以推翻SAFER的决定，但在行使自由裁量权时，特别是在涉及帮派从属关系方面，可能进一步对黑人囚犯不利。
- SAFER算法的运作方式未公开，其预测性主张缺乏公开证据，引发了对历史偏见数据导致算法偏见的担忧。
- 安大略省监察员收到了关于SAFER的投诉，指出其影响不成比例，且缺乏关于通过规划降低评分的透明度。
- 刑事司法中的人工智能工具存在通过‘黑箱’算法延续偏见的风险，警告称可能出现诸如种族或邮政编码等虚假相关性。