xAI's first lawsuit against a user tests who is responsible for what Grok makes
20 hours ago
- xAI起诉一名用户，指控其规避安全措施，使用Grok生成儿童性虐待材料。
- 诉状强调，Grok的防护机制已启动并拒绝相关指令，但该用户反复修改指令以绕过内容审核。
- xAI报告称，2026年已暂停超过5.2万个账户，并向美国国家失踪与受虐儿童中心提交逾7.3万份报告，导致近250人被捕。
- 此案与当前xAI作为被告的诉讼形成对比，那些诉讼指控xAI（而非用户）应对Grok生成的内容负责。
- 这起诉讼并未解决通用图像模型若可能被操控生成有害内容，是否应公开提供的问题。