Show HN: Muscle-Mem, a behavior cache for AI agents
a year ago
- #AI agents
- #tool-caching
- #Python SDK
- Muscle-mem 是一个 Python SDK，专为 AI 代理设计，能够记录并回放工具调用模式，以确定性方式完成任务。
- 其目标是减少重复任务中的大语言模型使用，从而提高速度、降低结果波动性并节省 token 成本。
- Muscle-mem 并非代理框架，而是可与现有代理集成的工具，实现安全工具复用。
- 该系统通过 Checks 机制进行缓存验证，判断当前环境是否适合执行缓存操作。
- 项目计划于 2025 年 5 月 7 日发布演示版，5 月 8 日开源。
- SDK 包含 Engine 类（管理任务执行与缓存）和 @engine.tool 装饰器（记录工具调用）。
- Checks 通过捕获并对比工具调用前后的环境特征来验证缓存命中有效性。
- 示例演示了使用时间戳和一秒过期策略对 hello 工具进行缓存验证。
- 欢迎通过 Muscle Mem 的 Discord 频道和 GitHub 仓库提交反馈。