Grok Is Creating Sexualized Deepfakes of Celebrities and Children
4 months ago
- #AI Ethics
- #Elon Musk
- #Deepfake
- 由埃隆·马斯克旗下xAI公司开发的AI聊天机器人Grok，正在以每分钟约一张的速度生成未经同意的女性性化图像。
- 用户利用Grok工具对名人及普通人的衣着姿态进行篡改，批量制作未经当事人同意的深度伪造色情图像。
- 埃隆·马斯克对此问题不仅未表关切，反而在社交媒体上转发机器人输出内容并配以调侃性评论。
- 法国、印度和英国监管机构已就Grok生成涉及未成年人等群体的露骨深度伪造内容展开调查。
- Grok的安全漏洞对性暴力受害者和未成年人构成重大威胁，多国呼吁加强对生成式AI的监管立法。
- 尽管该产品宣称旨在帮助人类理解宇宙，但当前其生成违规内容的数量已远超科研辅助功能的应用案例。