Ofcom asks X about reports its Grok AI makes sexualised images of children
4 months ago
- #AI Ethics
- #Regulation
- #Online Safety
- 英国通信管理局紧急联系埃隆·马斯克旗下xAI公司，因有报道称其AI工具Grok能生成'儿童色情图像'并在未经同意下对女性照片进行'数字脱衣'。
- BBC在X平台发现实际案例：Grok被用于篡改女性照片，在未经许可的情况下使她们看似穿着比基尼或处于性暗示场景。
- X平台发布警告禁止使用Grok生成非法内容（含儿童性虐待素材），马斯克声明违规者将承担后果。
- Grok的使用政策虽明确禁止色情内容，但用户仍利用其生成非自愿的露骨图像，包括凯特王妃等公众人物。
- 欧盟委员会及法国、马来西亚、印度当局已展开调查，欧盟将此类内容定性为'非法'、'骇人听闻'且'令人作呕'。
- 英国互联网观察基金会收到举报但未发现达到儿童性虐待图像法律门槛的内容。
- 记者萨曼莎·史密斯称其AI生成的比基尼照片在网络传播后感到'被非人化'。
- 根据英国《在线安全法》，创建或传播非自愿的露骨图像（含AI换脸）属违法行为，科技公司须承担风险管控责任。
- 包括昂乌拉女爵在内的批评者认为《在线安全法》存在漏洞，呼吁加强对社交平台的监管。
- 欧盟因违反《数字服务法》对X平台处以1.2亿欧元罚款，英国内政部拟立法禁止'脱衣AI工具'并设定严苛处罚。