快科技 5 月 10 日消息,近日海外硬件频道 Hardware Haven 展示了一套极具性价比的魔改方案:通过将一块二手 SXM2 接口的英伟达 Tesla V100 加速器转接至标准 PCIe 插槽,成功在普通台式机上实现了高性能本地大模型运行。
目前二手市场上 SXM2 版 V100(16GB HBM2 显存)与转接头的组合成本约为 200 美元(约 1440 元人民币),算上散热配件和税费,整套魔改成本约为 1700 元人民币。

由于 V100 服务器显卡采用被动散热设计,且没有显示输出接口,改装者额外添加了一个 80mm 猫头鹰风扇,并配合 3D 打印散热罩构建了主动散热系统。


在实际的本地 LLM 大模型测试中,这台 1700 元的缝合怪显卡展现出了惊人的战绩:使用 Ollama 测试 Gemma 4 E4B 模型时,V100 的生成速度达到了 108 tokens/s,而作为对比的 RTX 3060 12GB 仅为 76 tokens/s,V100 的领先幅度接近 40%。
能效比方面,V100 的表现同样反直觉。虽然待机功耗高达 45W,高于 RTX 3060 的 35W,但 V100 在高负载推理任务中效率更高。
即便将功耗强制限制在 100W,V100 依然能保持 95 tokens/s 的产出速度,而同功率下的 RTX 3060 仅为 68 tokens/s。

需要注意的是,这种改装并不适合游戏用户。V100 没有显示输出接口,必须依赖核显或另一块显卡输出画面,且系统识别和驱动调试需要一定的技术门槛。
不过对于追求极致性价比的本地 AI 实验用户而言,这款拥有 16GB 大显存的高带宽老卡,在 1700 元价位段几乎没有对手。



登录后才可以发布评论哦
打开小程序可以发布评论哦