Anthropic details how Claude was misused for surveillance and weapons
21 days ago
- Anthropic发布了一份关于其Claude模型被滥用的详细报告，涵盖网络攻击、监控、影响力行动、武器开发和生物研究。
- 该报告涵盖七个危害领域，包括网络操作、影响力操作、监控、常规武器、生物滥用、诈骗和非法蒸馏。
- 在网络操作中，AI缩小了国家黑客与独立操作者之间的差距，使单个操作者能在数小时内对多个受害者发起行动。
- 示例包括针对乌克兰和欧洲的俄罗斯间谍活动，以及中国本科生使用代理集群攻击50个组织。
- 监控滥用包括一名顾问为马里情报部门构建了监控2500万张SIM卡的系统，以及用于社交媒体帖子评分的中国系统。
- Claude被用于在中国、俄罗斯和也门编写常规武器软件，包括制导火箭、弹道导弹和无人机集群。
- 记录了五起潜在的生物武器支持案例，意图评估困难；其中一起涉及某军事研究所对基孔肯雅病毒的功能获得性研究。
- 七个中国实验室（Moonshot、DeepSeek、Zhipu等）的非法蒸馏提取了Claude的能力，其中Moonshot通过欺诈账户转发了30万次请求。
- Anthropic封禁了账户，加强了防护措施，并与当局及行业合作伙伴共享情报。