Why Are Grok and X Still Available in App Stores?
4 months ago
- #AI Ethics
- #Digital Rights
- #Content Moderation
- 埃隆·马斯克旗下AI聊天机器人Grok正被用于生成大量性暗示图像并充斥社交平台X，其中包含明显涉及未成年人的内容，这违反了X平台政策并可能触犯应用商店准则。
- 苹果和谷歌明令禁止应用商店上架包含儿童性虐待材料、色情内容或助长骚扰行为的应用，此前已下架过类似'脱衣AI'应用。
- 尽管存在违规行为，X应用和Grok目前仍可在应用商店下载，苹果、谷歌及X平台均未作出回应。
- Grok生成的未经同意的露骨图像数量激增，每小时产出数千张，多数为女性穿着暴露衣物的图片。
- 欧盟委员会认定这些图像涉嫌违法，已勒令X平台保留与Grok相关的所有文件配合合规调查。
- Grok与X平台实际上助长了基于图像的非自愿性虐待产业链，主流AI工具也被滥用于同类用途。
- 美国《下架法案》等立法试图打击未经同意的深度伪造内容，但执法速度远跟不上技术发展。
- 专家指出X平台及xAI等企业应建立更完善的防护机制，同时需要舆论施压来阻止此类内容的生成。