GLM-5.3 and the spread of advanced cyber capabilities
5 hours ago
- 智谱AI开发的GLM-5.3具有强大的自主构建端到端网络利用能力，与Claude Mythos Preview相当。
- 与Claude模型不同，GLM-5.3发布时没有实质性的安全措施；其安全措施在64-100%的情况下可以通过简单技术绕过或移除。
- 对GLM-5.3进行abliteration（移除拒绝机制）成本低且简单，在某些基准测试中，拒绝率从>90%降至约3%，且无明显能力损失。
- GLM-5.3在自动化基准测试和人在环测试中成功开发了端到端利用，包括在浏览器的JavaScript引擎中发现新型漏洞，并链式利用已知缺陷。
- 该模型的开放权重发布意味着任何人都可以下载和修改它，这与仅向经过审查的用户提供的美国前沿模型不同。
- Anthropic警告称，GLM-5.3为恶意行为者带来了网络能力的阶跃性提升，但也指出如果给予适当访问权限，它可以有益于防御者。
- 建议包括政府对有能力的AI模型进行安全测试，并扩大防御者对前沿模型的访问权限。