社区Reddit r/LocalLLaMA2026/02/11 12:3740
一位用户报告了在NVIDIA Blackwell GPU上使用vLLM 0.14.1运行GLM 4.7 AWQ量化模型时遇到的部署问题。具体表现为，服务在处理约10万Token后挂起并崩溃。用户发现，后续vLLM版本在Blackwell上启动即崩溃，社区已有相关issue。这揭示了vLLM在支持NVIDIA Blackwell架构时存在的严重兼容性与稳定性…
专题：stability-issues
按该标签聚合的大模型资讯列表（自动分类与标签提取）。共 1 篇文章。