快科技 11 月 10 日消息，据报道，一位执业律师为了确保客户的机密法律文件绝不离开办公室，利用 8 块二手 NVIDIA Tesla V100 数据中心 GPU，搭建了一套性能强悍的私有 AI 服务器。

这套系统的核心是两块各搭载 4 颗 V100 的 SXM2 NVLink 基板。每颗 V100 配备 32GB HBM2 显存，单卡显存带宽达 900GB/s，8 卡总算力汇聚成 256GB 的庞大显存池。

律师购入时，每块 4 卡基板成本约 2400 美元（快科技注：约合人民币 1.73 万元），单卡折合仅约 400 美元（快科技注：约合人民币 2880 元）。不过目前 eBay 上同款二手卡已涨至约 900 美元，翻了一倍多。

硬件搭配同样硬核。主机采用技嘉 Threadripper Pro 主板，搭载 12 核的 3945WX 处理器与 256GB DDR4 内存，由两颗总功率 2800W 的电源分别接入办公室的不同电路供电。

整套系统运行的是开源模型 DeepSeek V4.1 Flash，权重经压缩后仍达 248.8GB。

性能表现足以应对日常法务工作。实测在生成代码时，依托推测解码技术，速度可达 215 tokens/s；在专门用于生成法律文书时，速度稳定在 118 tokens/s。

尽管处理 128K 长度的长文档时，首 Token 延迟约需 1 分钟，但其上下文窗口高达 524K，足以吞下海量卷宗。

律师估计，这套本地系统能接管其 50% 至 60% 的 AI 工作流，涵盖从案件档案中提取事实、日期、生成摘要到起草初稿。所有 AI 产出均需经过人工复核，在绝对保障数据隐私的同时，大幅降低了对云端 API 的依赖与成本。

这套方案证明，在内存与算力价格高企的当下，二手企业级硬件依然是极客玩家守住数据主权的一条硬核路径。

【本文结束】如需转载请务必注明出处：快科技

责任编辑：红茶