The classifiers Anthropic puts in front of Fable are too zealous
3 days ago
- #model limitations
- #AI safety
- #research tools
- Anthropic的Fable模型发布后迅速面临出口管制，导致其被暂时下架，之后在更严格的防护措施下恢复。
- 作者尝试使用Fable进行软件移植任务，涉及用Rust重写C++工具salmon，但由于源代码中包含生物学术语的安全顾虑，该请求被拒绝。
- 即使问题被简化为抽象数学形式后，Fable依然拒绝参与一个关于网络演化的理论计算机科学问题，这表明其分类器过度标记生物学和网络安全等话题。
- 作者得出结论，由于过度严格的防护措施，Fable无法有效支持计算机科学领域的研究级任务，特别是在生物信息学和计算生物学等领域。
- 尽管多次尝试，Fable仅回答了一个关于冰淇淋口味的简单问题，突显其无法协助实质性技术查询的能力。