大语言模型与真正智能的边界：从Sutton的‘苦涩教训’谈起

本文围绕Sutton提出的‘苦涩教训’展开，探讨大语言模型（LLM）在训练和部署阶段的计算资源使用效率问题。作者指出，LLM的训练阶段虽然能学习大量知识，但其学习内容主要依赖人类数据，缺乏对真实世界的自主理解。此外，LLM在部署阶段消耗大量计算资源却无法持续学习，这与动物通过环境互动进行学习的方式存在本质差异。作者认为，模仿学习与强化学习并非对立，而是互补的，且当前LLM已展现出一定的持续学习能力。文章最后提出，尽管Sutton的理论对当前LLM范式提出了批评，但其核心问题仍值得深入思考，未来AGI的发展可能仍需依赖这些模型。