专题:open_source_llm

按该标签聚合的大模型资讯列表(自动分类与标签提取)。1 篇文章。

社区Hacker News2026/04/01 05:016730
发布首个宣称商业可用的1-bit LLM
推理仅需位运算与加法,支持边缘部署

1-Bit Bonsai 是首个宣称具备商业可行性的 1-bit 大语言模型,采用极端量化技术将权重与激活压缩至 1 位,推理仅需位运算,支持边缘部署。尽管精度有所下降,但在特定任务中仍具实用性,项目已开源并用于内部原型系统。