当写代码越来越依赖云端 AI,开发者也会遇到一个现实问题:订阅一旦涨价、停服或受限,工作流可能跟着被卡住。Reddit 用户 trytoinfect74 因此转向本地模型,并分享了一套面向软件工程 Agent 的 64GB 显存工作站。显存(VRAM)是 GPU 存放模型和上下文的高速内存;他原有的 RTX 4080 只有 16GB,在模型精度和上下文窗口——AI 一次能参考的代码、日志与工具结果总量——上都受到限制。
这套方案的价值不在于给出一张万能采购单,而是展示多 GPU 自建的真实麻烦:作者选用可容纳四张 RTX 3090 Founders Edition 尺寸显卡的 Meshify 2 XL 机箱,但受主板和电源限制,最终只装三张;其中一张通过定制竖装导轨靠近前置风扇,作者称温度表现合理。Corsair HX1500i SHIFT 电源又因 8-pin 接口配置受限,迫使他把一张三 8-pin 的 RTX 3090 换成 Founders Edition。换句话说,堆显存不只是把卡插满,还要同时处理空间、供电、接口和散热。供稿未披露整机总价、运行速度及模型效果,因此它更适合作为现实成本结构的样本,而非已经验证的最优方案。