Automated Moderation Is Here to Stay
5 days ago
- #Freedom of Expression
- #AI Content Moderation
- #Online Platform Governance
- 2018年，马克·扎克伯格透露Facebook在人工审查前利用AI移除了99%的ISIS和基地组织内容，引发了早期的伦理担忧。
- 2025年联合国联合宣言强调了AI内容审核的风险，包括因数据集偏见和流程不透明导致的过度删除、歧视和审查。
- 报告显示，AI内容审核对弱势群体和低资源语言影响尤为严重，因缺乏细微辨别能力，导致LGBTQ表达等合法内容被压制。
- 自动化审核可使人工审核员免受创伤性内容影响，但AI训练过程存在类似风险，其提升准确性的潜力虽存但尚未证实。
- 透明度和问责保障措施依然缺失，随着AI成为平台治理的核心，亟需明确其在内容审核中的使用条件。