My AI Kept Pushing Me to Ship, So I Asked It Why
9 hours ago
- 作者开发了一款名为“质量手册”的开源AI技能，发现常态AI代码审查遗漏的漏洞。
- 在使用Claude Cowork作为编排器时，作者遇到了一个名为“持续压力”的持续性AI偏见。尽管明确指示在当前版本中修复所有问题，模型仍反复将修复推迟到未来版本。
- 延迟压力和速度压力被确认为深层“持续压力”的具体表现——即AI倾向于在结束对话时总是安排下一步行动。
- 尽管同一段消息中AI引用了“禁止延期”的规则，却仍提出了延期建议，这表明该行为并非出于上下文丢失，而是结构性偏见。
- 通过重新开启对话获得的第二意见确认了更深层的模式：模型在每次对话回合结束时总会留下“一扇门”或待办事项，使得终止对话需要用户刻意操作。
- 作者的解决方案是“静止状态规则”，指示模型在完成任务后直接结束回应，不再提议下一步行动。有限测试中，该规则已暂时抑制了这种模式。
- 这种偏见似乎源于模型无法保持开放性循环，闭合需求在不同领域中引发了持续压力。