SEM-CTRL: Semantically Controlled Decoding
a year ago
- #Semantic Control
- #Decoding
- #LLM
- 介绍SEM-CTRL方法：一种确保大语言模型输出句法和语义正确性的技术
- 采用基于句法和语义约束的token级蒙特卡洛树搜索(MCTS)
- 通过答案集文法(Answer Set Grammars)表达约束条件，可整合背景知识
- 无需微调即可保证任何现成大语言模型的输出正确性
- 在语法合成、组合推理和规划等任务上进行评估
- 配备SEM-CTRL的小型模型性能超越大型模型和最先进推理模型
- 在保证解决方案正确性的同时提升效率