Show HN: TokenPath – token-level citations for LLM output, read from attention
9 hours ago
- TokenPath 为 AI 模型回答提供令牌级归因，将每个声明解析到文档中的确切源跨度。
- 它无需更改堆栈即可与任何模型的输出配合使用，只需在生成答案后进行一次 API 调用。
- 比较了三种引用方法：询问模型（无粒度）、检索并重新排序（无法区分相同值）以及读取注意力（粒度细、无歧义且速度快）。
- 在 LongBench-Cite 上，TokenPath 的读取注意力方法达到了 0.815 F1 分数，与 Anthropic 的 Citations API 性能相当，但成本降低约 7 倍，速度快 5–6 倍。
- API 接受文档、问题、答案和声明跨度，并返回每个声明的源跨度及置信度分数。
- 定价为每百万令牌 1 美元，注册时赠送 1000 万免费令牌，无月度最低消费。
- TokenPath 专为智能体时代设计，通过读取模型的注意力来实现对智能体实际使用内容的审计。