Agent-o-rama: build, trace, evaluate, and monitor LLM agents in Java or Clojure
6 months ago
- #JVM
- #LLM
- #AgentFramework
- Agent-o-rama 是一个开源库，用于在 JVM 上构建可扩展且有状态的 LLM 智能体。
- 它为 Java 和 Clojure 提供功能对等的 API。
- 解决了 JVM 生态系统中缺乏基于 LLM 系统的集成工具问题。
- 包含结构化智能体图、追踪、数据集、实验和评估等功能。
- 智能体被定义为并行执行的 Java 或 Clojure 函数图。
- 提供用于离线实验、在线评估和遥测的 Web 界面。
- 通过简单的客户端 API 支持实时模型调用的流式传输。
- 可部署在 Rama 集群上，通过商业许可从两个节点扩展到数千个节点。
- 提供了研究智能体的示例，包括设置和执行说明。
- 在 UI 中包含智能体执行的详细追踪和统计数据。
- 提供快速入门指南、完整文档和社区支持的资源。