本地LLM部署与云服务性能波动的对比分析

用户在使用GLM-5 Coding Plan时发现其性能存在周期性下降的现象，尤其在一天中的不同时间段表现差异显著，这一问题在一些技术网站如aistupidlevel.info上也有记录。性能波动似乎与具体任务或场景无关，多次运行均出现类似情况。用户质疑这种现象是否源于云服务提供商的基础设施问题，并探讨是否通过本地部署模型可以缓解此类性能下降。考虑到其工作涉及大量AI推理和GPU计算，用户正在评估是否值得将部分计算资源用于本地模型部署。尽管本地部署可能带来更高的成本，但用户认为这可能是解决性能不稳定问题的有效途径。