Meta AI 推出 COCONUT：一种新的范式，通过连续潜在思维和高级规划能力改变机器推理

本文链接：https://blog.csdn.net/qianggezhishen/article/details/144539883

想象一下，大型语言模型（LLMs）就像个语言天才，通过在大量人类语言数据上的训练，它们能模拟出逻辑推理和解决问题的能力。这些模型遵循一套结构化的方法，就像我们解题时的步骤一样。但是，这些方法大多数时候都局限在语言的世界里，用文字来展示它们的思考过程。虽然这样让我们更容易理解，但有时候也效率不高，因为自然语言更多的是用来交流，而不是用来做逻辑推理的。就像神经科学的研究告诉我们的，我们的大脑在推理时，很多时候是不需要通过语言的。

现在的问题是，这些基于语言的推理方法在计算上效率不高。LLMs在处理问题时，很多生成的文字其实只是为了让表达更流畅，而不是真正有助于推理，这就浪费了计算资源。而且，当问题变得复杂，需要同时考虑多个解决方案时，这种方法就显得不够用了。有时候，这些模型还会过早地锁定一个解决方案，这样就很难再回头考虑其他可能性了。

不过，有个叫链式思考（Chain of Thought，简称CoT）的方法，它通过让LLMs一步一步地用语言来表达它们的思考过程，提高了解决问题的清晰度和准确性。但是，这个方法在处理需要复杂规划或深入探索的任务时，还是会受到自然语言的限制。所以，就有了潜在推理（Latent Reasoning）这个新概念，它允许模型进行非语言的计算。虽然这听起来很有前景，但要让这种方法在各种任务中都比传统的基于语言的方法更有效，我们还需要让它更加可扩展和稳定。

为了解决这些问题，Meta的FAIR实验室和加州大学圣地亚哥分校的研究人员搞出了一个新东西，叫做COCONUT（C haino fCon tinu ousT hought），也就是连续思维链。这个新方法让LLMs可以在一个不受语言限制的连续潜在空间里进行推理。和传统的CoT不一样，COCONUT用的是模型最后一个隐藏状态来表示推理状态，这个状态是连续的，可以直接用来进一步处理，不需要转换成语言。这样，COCONUT就能更高效地处理推理步骤，同时还能探索多种解决方案。

COCONUT的训练过程也很特别，它在语言模式和潜在模式之间来回切换，慢慢地用潜在的表示来代替基于语言的推理步骤。到最后，COCONUT能完全在潜在空间里解决问题，这有点像广度优先搜索（Breadth-First Search，简称BFS），能同时考虑多个解决方案，然后再选出最好的那个。

COCONUT在三个数据集上的表现都很不错，特别是在逻辑推理和数学推理任务上，准确率都超过了传统的CoT方法。它在处理需要广泛规划的任务时，也显示出了明显的优势。比如说，在逻辑推理任务上，COCONUT的准确率高达99.9%，比CoT的98.8%还要高，而且在推理过程中生成的推理标记也更少。这就像是在解决复杂问题时，COCONUT能够更聪明、更高效地找到答案。

COCONUT这玩意儿，它牛就牛在能同时处理好几条推理路径。就像我们做选择一样，它不会一上来就认定一个答案，而是先看看所有可能的选项，然后再一个个排除那些不对的。这样做在处理像GSM8k这种开放性问题的时候特别管用，COCONUT的准确率能到42.9%，比传统的CoT方法的42.0%要高那么一点。这种在潜在空间里自由探索和回头的能力，让COCONUT在规划方面表现得特别出色，特别适合那些充满不确定性或者有好几条解决方案的难题。

咱们来聊聊COCONUT研究的几个关键点：

COCONUT在逻辑推理任务上，比如ProntoQA，准确率能到99.9%，在数学推理任务上，比如GSM8k，也有42.9%的准确率，这都比传统方法要强。
这个模型在推理的时候，生成的标记数量少了，这意味着它更省计算资源。
COCONUT用潜在空间推理的方式，有点像BFS，能同时考虑好几种解决方案，这样在处理复杂任务时就更得心应手。
COCONUT的训练过程分好几个阶段，这样它就能应对越来越难的问题，而且性能还保持得很好。
COCONUT在各种推理任务上都表现出色，不管是开放领域的数学问题，还是需要图结构逻辑推理的问题。

总结

问题	方法	结果
基于语言的推理效率不高，因为太依赖于生成流畅的标记，而不是真正解决问题的推理。	Meta的FAIR和加州大学圣地亚哥分校的研究人员搞出了“COCONUT”（连续思维链），这样就能在没有语言限制的潜在空间里进行推理了。	COCONUT在逻辑推理任务上达到了99.9%的准确率，减少了推理标记，提高了规划能力，而且在效率和可扩展性上都超过了传统方法。