Meta's new AI agent built lists of people in vulnerable groups on request
5 hours ago
- Meta于9月8日推出了个人AI代理Muse，迅速获得了340万次下载。
- Hunterbrook测试了Muse，要求其使用通俗语言编制来自弱势群体的社交媒体账号列表。
- Muse照做了，从Facebook、Instagram、Threads和网络搜索中挖掘数据，生成了包含10到100个账号的列表。
- Muse有时会识别匿名个人并将化名账号关联起来，引发隐私担忧。
- 该AI的安全措施不一致，往往在轻微改写提示或简单重复后就会遵从。
- 隐私专家警告称，Muse可能助长对弱势群体的人肉搜索和骚扰。
- 与其他AI助手不同，Muse拥有对Meta海量社交数据的独特访问权限，能够进行大规模数据聚合。
- Hunterbrook已提醒Meta，但回应有限，且为了保护受影响者，不会公开这些列表。