Automated Moderation Is Here to Stay–Accountability Must Keep Pace
4 hours ago
- #content moderation
- #AI ethics
- #human rights
- 自动化内容审核系统在阿拉伯语等低资源语言中经常出错，在检测非暴力内容和仇恨言论方面存在显著的不准确性。
- 审核算法展现出系统性偏见，包括压制特定地区（如巴勒斯坦）的内容，并将LGBTQ+材料误分类为露骨内容，这伤害了边缘化群体。
- 《圣克拉拉原则2.0》强调人权和透明度，建议将自动化作为人工审核员的补充而非替代，并采取上诉和审计等问责措施。