专题：rtx-3090

本文介绍了一项突破性的技术实验，成功在单块消费级 RTX 3090 显卡上运行了 700 亿参数的 Llama 3.1 模型。核心亮点在于采用了创新的“NVMe-to-GPU”技术，直接绕过 CPU 和系统内存，实现 GPU 与 NVMe SSD 的高速互联，大幅提升了大型模型在有限硬件上的运行效率。该实验为在消费级硬件上部署和运行大型语言模型提供了可行性…

作者在 GTX 1080 上使用 Gemma‑3 4B 完成摄像头运动分析，体验良好。面对二手 RTX 3090，思考是否真的需要更大显存和算力。文章指出本地 LLM 适合精准垂直任务，RTX 3090 可支持多模型并行和更低延迟，但若仅运行单一小模型，1080 已足够。并提供了潜在的本地 LLM 应用方向，邀请社区分享经验。

一位用户拥有一台 1350W 模块化电源，但仅配备了 3 根带菊花链的 PCI-E 电源线。他计划安装第二张功耗受限的戴尔 OEM 版 RTX 3090 显卡（每张卡需两个 PCI-E 接口），并询问是否能为每张卡分配一根专用电源线，然后利用菊花链为每张卡的第二个接口供电。他同时咨询是否需要更严格地限制功耗，并提及寻找兼容模块化电源线的困难。他希望获得关于…