Claude Fable 5 Backlash Grows
6 days ago
- #Tech Regulation
- #Benchmarking
- #AI Safety
- Anthropic于7月1日重新发布了Claude Fable 5，采用了更严格的安全护栏，但因编码和调试性能下降引发用户强烈反对。
- BridgeMind的基准测试显示，在调试（从86.2分降至25.9分）和重构等任务上分数急剧下滑，原因在于任务被拦截而非推理能力减弱。
- Anthropic声称底层模型未变，但承认更严格的安全分类器会阻拦更多合法请求，并将其转至Opus 4.8处理。
- 该模型最初于6月发布，曾因监管要求短暂下架，恢复后增加了使用限制并强化了针对网络安全任务的安全措施。
- Anthropic正与亚马逊、微软和谷歌合作制定越狱攻击严重性评估框架，同时国际竞争加剧和用户留存问题日益凸显。