Karpathy's knowledge base matches our Grep-is-All-You-Need paper
2 days ago
- #knowledge grounding
- #LLM agents
- #retrieval-augmented generation
- 该论文提出了‘知识搜索’，一种使用grep和cat的两层检索系统，作为领域特定知识接地的标准RAG栈的替代方案。
- 它声称基于在三个知识领域的20个LLM代理中的部署，实现了100%的检索准确率、低于10毫秒的延迟、零预处理，且无额外的内存或基础设施依赖。
- 相比于向量RAG的关键优势包括无需嵌入模型选择、分块、向量数据库或近似最近邻搜索，从而降低了复杂性和延迟。
- 局限性包括不适合开放领域查询、语义相似性搜索、跨语言检索，以及超过约1GB的非常大的语料库。