Anthropic ditches its core safety promise
7 hours ago
- #Anthropic
- #AI Safety
- #Pentagon
- Anthropic正在放宽其核心安全原则以应对竞争，用非约束性安全框架取代了自我设定的防护措施。
- 该公司此前实施的「负责任扩展政策」被认为阻碍了其在快速增长的AI市场中的竞争力。
- Anthropic的政策调整与五角大楼关于AI安全保障及2亿美元合同的谈判无关。
- 新政策取消了「当安全控制措施落后于模型能力时暂停训练更强大模型」的硬性规定。
- Anthropic现在将把自身安全计划与对AI行业的建议区分开来。
- 该公司承认此前「向最高安全标准看齐」的做法未能获得行业广泛采纳。
- Anthropic新的「前沿安全路线图」采用可公开评估的弹性目标，而非硬性承诺。
- 该公司仍坚持反对AI控制武器和大规模国内监控的立场，拒绝在这些问题上妥协。
- Anthropic面临来自五角大楼的压力，以及OpenAI等对手在企业级AI工具市场的竞争。
- Anthropic首席科学官强调，鉴于AI技术快速发展，政策变更体现的是「安全优先于竞争」原则。