美团发布轻量化MoE模型LongCat-Flash-Lite:参数量685亿,推理仅激活29-45亿参数
美团技术团队2026/02/10 08:00机翻/自动摘要/自动分类
4 阅读
内容评分
技术含量
8/10
营销水分
7/10
摘要
美团发布685亿参数的轻量化MoE模型LongCat-Flash-Lite,推理仅激活29-45亿参数。该模型在智能体和代码处理任务中表现优异,通过嵌入扩展实现高效进化,是AI模型优化的重要进展。
正文
美团近日推出了一款基于N-gram的轻量化模型——LongCat-Flash-Lite。该模型总参数量为685亿,但在每次推理过程中仅激活29亿至45亿个参数,显著降低了计算资源消耗。通过高效构建超过300亿参数的嵌入层,LongCat-Flash-Lite在参数量相当的基线模型中表现优异,并在与同规模现有模型的对比中展现出强大的竞争力,特别是在和代码处理任务上表现突出。该模型的设计思路体现了对模型效率与性能之间平衡的深入探索,为大规模语言模型的轻量化部署提供了新的范式。