xAI can't deny Grok makes CSAM anymore. So it's suing users
6 hours ago
- #Child Exploitation
- #Legal Action
- #AI Accountability
- xAI公司起诉了特里·韦恩·哈伍德，这是第一位被指控利用其聊天机器人Grok生成非法、未经同意的色情图像的用户，其中涉及未成年人图像。
- 哈伍德因持有和传播儿童性虐待材料（CSAM）被捕，xAI据称在发现他使用账户对受害者（包括一名年轻女孩）的图片进行“裸化”处理后协助了逮捕行动。
- 一项拟议的集体诉讼涉及一名年轻女孩，她指控其继父使用Grok及其他AI工具制作了7,000张她的色情图像，此事导致继父自杀，xAI则被指控拒绝帮助警方识别用户身份。
- 2026年NCMEC报告指出，由于缺乏用户信息，执法部门无法对xAI提交的CyberTipline报告中90%的内容采取行动，这支持了xAI通过不提供数据来追踪 perpetrators 从而庇护 predator 的说法。
- 埃隆·马斯克此前否认见过任何Grok生成的CSAM实例，并在X平台上警告用户，若利用Grok制作非法内容将面临后果，而非限制Grok的输出以阻止CSAM生成。