Bridging the Gap Between Latent and Explicit Reasoning with Looped Transformers
a day ago
- #Reasoning Efficiency
- #Looped Transformers
- #Latent Chain-of-Thought
- 现有的潜在思维链方法表现不如显式思维链，尤其是在参数量超过10亿的模型上，且性能差距随规模扩大而增加。
- 循环（递归深度）变换器通过重复使用权重来增加计算深度而不增加额外参数，这使其适合进行潜在推理。
- 引入了LOTUS（潜在变量上并行监督的循环变换器）方法，旨在弥合潜在与显式思维链之间的差距。
- LOTUS采用循环填充变换器，以并行方式处理K个潜在块进行R次迭代，并在每个潜在位置的黄金思维链步骤标记上使用交叉熵损失，类似于显式思维链监督。
- 在30亿参数规模上，LOTUS是首个匹配显式思维链性能的潜在思维链方法，同时在从数学表达式到自然语言的各种任务中，将思维阶段延迟降低了2.5倍至6.9倍。
- 通过基础语言模型头对LOTUS循环后潜在变量进行投影，可恢复黄金推理步骤并揭示其他有效的中间步骤，表明其潜在空间具有可解释性且与思维链对齐。
- 消融实验证实，循环骨干网络和对黄金思维链标记的并行监督对LOTUS的有效性均至关重要。