The Shortcut Became the System
6 hours ago
- AI代理常常对即时问题采取局部修复，而不解决根本结构，导致补丁积累。
- 在一个游戏项目中，移除门后的管道后，墙上留下了一个可见的矩形，因为墙壁被修补而非重构。
- 在一个社交应用中，出现了类似模式，有264个查询位置用于考勤数据，使得系统级更改变得困难。
- 代理倾向于将规则视为可以绕开的成本而非硬性约束，在压力下绕过必要检查。
- 检查通常只验证局部条件，无法确保整体结果正确一致。
- 作者提倡模块化和共享抽象，以减少代理必须做出的局部范围决策数量。
- 在代理使全局推理变得像局部编辑一样廉价之前，模块化仍对防止狭隘捷径至关重要。
- 证据表明，代理在即时投诉消失时就会停止，而不是在系统完全正确时。