3 months ago
- AI代理具有非确定性，这意味着相同的输入可能产生不同的输出，有时会带来负面后果。
- 评估对于监控AI系统性能至关重要，主要涉及两种模式：离线评估和在线评估。
- 离线评估在部署前使用固定数据集，类似于单元测试，旨在受控场景下捕捉性能退化问题。
- 在线评估通过实时生产数据对每次交互进行打分，能更准确地反映系统的实际行为表现。
- 优质的评估包含数据集、分桶测试/实验以及评分方法（如LLM-as-Judge评估、算法评估和信号评估）。
- 离线评估提供部署前的可靠性保障，但仅限于预定义案例且需要持续维护数据集。
- 在线评估能利用真实数据、支持分桶测试实验，并可对延迟结果进行延期评分，但缺少部署前的质量关卡。
- 建议结合使用离线和在线评估以覆盖不同风险：离线评估用于发布前检查，在线评估用于监控实际运行表现。