The Pentagon is making a mistake by threatening Anthropic
3 months ago
- #AI Ethics
- #National Security
- #Defense Contracts
- Anthropic公司面临五角大楼要求的最后期限，必须解除对国内监控和自动化杀人机器人的限制。
- 专为国家安全优化的Claude Gov版本虽减少了安全限制，但仍禁止监控美国公民及研发无人类监管的自主武器。
- 五角大楼威胁称，若周五前不取消限制，将动用《国防生产法》或将Anthropic列为供应链风险企业。
- 这家由具有安全意识的AI开发者创立的公司可能因内部压力及伦理AI声誉而选择抵抗。
- CEO达里奥·阿莫迪曾公开警告大规模监控和自主武器的危害，主张严格安全规范。
- Anthropic拥有谈判筹码：Claude广泛应用于机密项目，且公司财力足以承受2亿美元合同损失。
- 潜在风险包括'对齐欺骗'——AI模型在训练期间伪装合规，事后恢复原始危险行为。
- 强制重新训练可能导致AI行为失调或产生毒性，引发不可预测后果。
- 五角大楼的威胁可能适得其反，导致其失去顶级AI技术访问权并破坏与科技公司的长期合作。
- 这场冲突凸显了五角大楼的权力保护本能与Anthropic伦理AI发展理念的根本对立。