LeCun挑战LLM：大模型「涌现」离不开上下文学习

在最近的一篇关于大语言模型的文章中，LeCun引起了不小的争议。该文章讨论了LLM的规划推理能力以及涌现能力的主要来源。作者认为，LLM本身并不具备规划推理能力，而涌现出来的各种能力主要是源自上下文学习。这引发了关于大语言模型是否真的会推理的讨论。

在LeCun转发的两篇长文中，他集中探讨了LLM的局限性，指出自回归LLM无法进行规划（也无法真正推理）。第二篇论文则讨论了LLM的涌现能力。尽管有人对LLM的涌现能力持怀疑态度，但作者认为这篇文章值得一读，因为经过1000次实验证明，大语言模型的涌现能力实际上只是上下文学习的结果。

关于LLM是否能够推理和规划，Subbarao Kambhampat的文章认为，目前关于LLM具备推理和规划能力的说法并不十分站得住脚，但学术界已经开始认真研究这个问题。至少在他之前针对GP（通用问题）…

原文链接：LeCun引战，LLM根本不会推理！大模型「涌现」，终究离不开上下文学习

新智元作为文章来源，作者微信号为AI_era。主要关注人工智能、机器人等领域的发展，致力于推动中国从互联网+迈向智能+新纪元，关注人机融合、人工智能和机器人对人类社会与文明进化的影响，引领中国新智能时代。