Hasty Briefsbeta

双语

Show HN: Butter – A Behavior Cache for LLMs

7 months ago
  • #cost-saving
  • #LLM
  • #cache
  • Butter是一个用于缓存LLM响应的工具,通过识别模式来节省成本。
  • 它具有确定性,能确保过去AI行为的一致可重复性。
  • 兼容Chat Completions API,可轻松与LangChain、Mastra等工具集成。
  • 专为执行重复任务(如数据录入和研究)的自主智能体设计。
  • 定价为节省token费用的5%,目前可免费使用。