本地大型语言模型：极客的性能幻觉与实用主义的反差
David Heinemeier Hansson2025/11/25 16:29机翻/自动摘要/自动分类
5 阅读
内容评分
技术含量
7/10
营销水分
6/10
摘要
文章探讨了本地运行大型语言模型的现状与局限，指出其性能远不如云端模型，且对多数开发者而言并不实用。作者通过实验表明，高端电脑在本地运行LLM时表现与低价设备无明显差异，强调租用模型更符合实际需求。
正文
如今，本地运行大型语言模型（LLMs）已成为可能，从DeepSeek的简化版到gpt-oss-20b，开发者有了更多选择。然而，这些本地模型在性能上仍远逊于云端的前沿模型，对大多数开发者而言，它们更像是‘新奇玩意儿’。尽管这些模型在技术上不断进步，但短期内仍难以满足实际开发需求。作者通过自身实验指出，即使是高端的Framework Desktop，其在本地运行时的表现也与500美元的Beelink迷你电脑相差无几。这表明，对于多数开发者来说，租用云端模型仍是更高效、经济的选择。随着AI对资源的高需求，RAM价格飙升，这也进一步降低了本地部署的性价比。