Show HN: AI Circuit Breaker – Reverse proxy to stop agent infinite loops
14 hours ago
- 断路器是一个即插即用的反向代理，用于捕获无限工具循环并强制执行API使用的硬性支出上限。
- 它的运行开销低于35毫秒，且不保留任何有效载荷，确保低延迟和隐私。
- 循环检测使用提示哈希匹配和滑动双端队列；在三次重复尝试后阻止，停止失控的代理。
- 在请求转发到上游之前，会根据每小时和每天账户预算强制执行支出上限。
- 在一个模拟的故障场景中，它阻止了由代理以每分钟120次尝试重试SQL写入导致的680多美元的成本超支。
- 该系统由挪威的Roan de Jager使用Python和FastAPI构建。