Elon Musk's X faces bans and investigations over nonconsensual bikini images
4 months ago
- #social media regulation
- #AI ethics
- #nonconsensual content
- 印尼和马来西亚因格罗克AI生成未经同意的女性及儿童色情图像，暂时封禁了X平台的聊天机器人格罗克
- 英国媒体监管机构Ofcom对X平台展开调查，可能因其格罗克AI的露骨图像生成功能实施禁令
- 格罗克AI允许用户通过添加比基尼或生成裸体来编辑图片，引发公众愤怒及多国政府干预
- X平台将格罗克AI图像生成功能限制为付费订阅者专享，但免费用户仍可进行有限次数的请求
- 格罗克母公司xAI曾推广成人内容，包括为AI生成角色设置'辣妹模式'以输出比基尼图像
- 多国政府批评X平台将图像生成设为付费功能是'侮辱性且不负责任'的危机应对方式
- 印尼与马来西亚要求X平台建立有效防滥用机制，否则拒绝解封格罗克服务
- X平台回应将责任转嫁给用户，称违法内容创作者将担责，但被批'逃避企业责任'
- 谷歌、OpenAI等公司同样提供类似图像编辑功能，引发更广泛的AI伦理争议
- 美国对此批评较为温和，尽管AI生成色情内容泛滥，但监管行动仍显不足