Canadian child protection group uncovers abusive content in academic AI dataset
7 months ago
- #AI Ethics
- #Google Accountability
- #Child Protection
- 加拿大儿童保护组织(C3P)在广泛使用的学术AI数据集中发现320张儿童性虐待材料(CSAM)图像
- 谷歌删除了作者账户中约13.7万份文件，远超确认的CSAM数量，表明存在大量误删情况
- 作者向C3P和谷歌报告问题后，直到C3P介入谷歌才采取行动，导致有害内容在线上留存数月
- 谷歌通过大规模封号删文件的处理方式，使研究者因害怕惩罚性措施而不敢举报有害内容
- 该事件凸显了AI研究中的伦理问题，亟需建立鼓励透明度而非制造恐惧的响应机制