驱动之家 昨天
5090断货V100称王!9年老卡靠32GB大显存身价大涨:单卡加价1400元
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

快科技 10 月 17 日消息,受当前本地化 AI 大语言模型部署热潮的推动,发布已 9 年的 Tesla V100 计算卡因其 32GB 的大显存,近期在国内二手市场重新走红,目前单卡售价已出现 1400 元的溢价。

随着消费级旗舰 RTX 5090 在市场上难觅踪影,而专业级的 RTX 6000 PRO 售价在今年 8 月已突破 1.6 万美元(约 11.2 万元人民币),大量预算有限的开发者开始寻找平替方案。

如今大批退役的 Tesla V100 正被整车运往零售市场,如阿里巴巴和淘宝,成为组装平价 AI 主机的核心部件。

从硬件本身来看,这块老将依然具备鲜明的架构特色与算力底子,该卡搭载了 32GB 容量的第二代高带宽显存(HBM2),总显存带宽高达 900GB/s。

在应对大语言模型中词元的生成和提示词处理时,这种极高的显存带宽能够有效保障数据吞吐量,避免出现运算瓶颈。

而且为了让这批服务器退役硬件兼容现代家用 PC,民间玩家和商家对其进行了深度的物理改造:在外观与接口层面,原本无风扇被动散热的 Tesla V100 被加装了定制的三风扇散热模组。

并针对早期专为服务器主板定制的 SXM2 接口版本,硬核玩家通过使用 SXM2 转 PCIe 转接卡,成功将其安装到了普通的消费级主板上。

甚至实现了与 RTX 4080 显卡的协同运算,顺利跑起了拥有 270 亿参数的 Qwen 大模型。

在多卡互联的集群化改造中,旧硬件同样展现出了物理层面的优势:使用 NVLink 桥接板将四块 Tesla V100 组合后,其在特定模型的测试中,性能比部分新款的 M5 Ultra 和双节点 DGX Spark 设备提升了约 230%。

不过需要注意的是,这种二手服务器退役硬件的采购始终存在盲盒属性,商家是否会进一步推高这块老卡的溢价空间,以及这批经历过长期高负载运行的硅芯片还剩多少使用寿命,目前仍是未知数。

【本文结束】如需转载请务必注明出处:快科技

责任编辑:青山

智客推

智客推

ZAKER 智客推 GEO | AI 时代的品牌认知解决方案

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

tesla v100 ai 物理 spark 阿里巴巴
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论