快科技 10 月 17 日消息,受当前本地化 AI 大语言模型部署热潮的推动,发布已 9 年的 Tesla V100 计算卡因其 32GB 的大显存,近期在国内二手市场重新走红,目前单卡售价已出现 1400 元的溢价。
随着消费级旗舰 RTX 5090 在市场上难觅踪影,而专业级的 RTX 6000 PRO 售价在今年 8 月已突破 1.6 万美元(约 11.2 万元人民币),大量预算有限的开发者开始寻找平替方案。
如今大批退役的 Tesla V100 正被整车运往零售市场,如阿里巴巴和淘宝,成为组装平价 AI 主机的核心部件。

从硬件本身来看,这块老将依然具备鲜明的架构特色与算力底子,该卡搭载了 32GB 容量的第二代高带宽显存(HBM2),总显存带宽高达 900GB/s。
在应对大语言模型中词元的生成和提示词处理时,这种极高的显存带宽能够有效保障数据吞吐量,避免出现运算瓶颈。
而且为了让这批服务器退役硬件兼容现代家用 PC,民间玩家和商家对其进行了深度的物理改造:在外观与接口层面,原本无风扇被动散热的 Tesla V100 被加装了定制的三风扇散热模组。
并针对早期专为服务器主板定制的 SXM2 接口版本,硬核玩家通过使用 SXM2 转 PCIe 转接卡,成功将其安装到了普通的消费级主板上。
甚至实现了与 RTX 4080 显卡的协同运算,顺利跑起了拥有 270 亿参数的 Qwen 大模型。

在多卡互联的集群化改造中,旧硬件同样展现出了物理层面的优势:使用 NVLink 桥接板将四块 Tesla V100 组合后,其在特定模型的测试中,性能比部分新款的 M5 Ultra 和双节点 DGX Spark 设备提升了约 230%。
不过需要注意的是,这种二手服务器退役硬件的采购始终存在盲盒属性,商家是否会进一步推高这块老卡的溢价空间,以及这批经历过长期高负载运行的硅芯片还剩多少使用寿命,目前仍是未知数。

【本文结束】如需转载请务必注明出处:快科技
责任编辑:青山


登录后才可以发布评论哦
打开小程序可以发布评论哦