Human-Like Episodic Memory for Infinite Context LLMs
a year ago
- #Episodic Memory
- #Large Language Models
- #Artificial Intelligence
- 提出EM-LLM新方法,通过将人类情景记忆整合到LLM中实现无限上下文处理
- 采用贝叶斯惊喜与图论边界优化技术,将文本标记组织成情景事件单元
- 设计两阶段记忆处理机制,实现高效类人信息检索
- 在LongBench和InfiniteBench基准测试中超越InfLLM、RAG等前沿模型
- 具备1000万标记跨度的检索能力,在多数任务上优于全上下文模型
- 实验显示EM-LLM事件切分与人类认知事件存在强相关性