什么值得买 07-29
闲置显卡别浪费!NAS接上秒变 AI 算力站
index_new5.html
../../../zaker_core/zaker_tpl_static/wap/tpl_keji1.html

 

作者:橘生 330

NAS 应该算是家里或者工作室中,开机时间最长的一类设备。

照片、影片、工作资料、剪辑素材,基本都会集中存放在 NAS 中。我想很多人的 NAS 买回来以后,也是常年保持 7 × 24 小时运行。(除了少部分电费敏感用户,可能会每天定时开关机)

但如果仔细想想,如果只是备份照片、下载影片、共享文件,再运行几个 Docker 应用。对于一台硬件配置不低的 NAS 来说,多少显得有些大材小用。

可现在是 AI 时代,NAS 如果只是传统的数据存储设备,多少有点跟不上时代的潮流。我开始尝试让 NAS 承载更多的工作。

比如部署本地大模型,对 NAS 中存储的资料进行分析建立知识库;比如分析 NAS 中存放的视频,自动生成字幕等等

但真正开始尝试之后,很快又遇到一个新的问题:NAS 本身的性能可能并不能很好的满足 AI 的需求。

那有什么更好的方法可以解决性能问题呢?

外接显卡

这是大部分 NAS 厂商给出的答案,通过雷电 /OCU/PCIe 槽位等等方式,外接一张独显。如果遇到需要非常强性能的场景时,可以调用独显的算力进行计算。

但是需要注意,也不是所有的 NAS 设备都支持外接显卡,只有在一些中高端的 NAS 上才有外接独显的接口,并且也需要 NAS 系统能够做到支持。

那咱们这次使用的是来自绿联的六盘位新品 NAS DXP6800 Ultra。

家用六盘新旗舰选择—绿联 DXP6800 Ultra

从纸面参数来看,DXP6800 Ultra 并不只是一台面向照片备份和家庭影音的入门 NAS。

它搭载 Intel Core 5 120U 处理器,采用 10 核心 12 线程设计,基础频率 1.4GHz,最高睿频可以来到 5.0GHz,同时集成了 80EU 规格的 Intel Iris Xe 核显。

120U 的性能毋庸多说了,我们也简单跑了下 geekbench5,单核得分 1124 多核得分 4863,如果你有虚拟机、多 Docker 等需求,加装内存后,也能轻松应对这些需求。

在家用常见的转码场景中,我们也做了对应的测试,同时转码多条 4K 30 AV1 轨道,都能做到即点即播,可以说在家用场景下,这颗 U 已经能完全满足用户的需求了。

我们手上这台标配的是 8G DDR5 内存,同时搭配两个内存插槽,最高可以支持扩展到 96G。当然我想在目前内存价格暴涨的情况下,应该没人会给 NAS 搭配超大内存。那同时呢,这台设备的系统盘采用的是一块 128G 的 SSD,这 ... 能做什么你应该懂了吧()

Core 5 120U 自然提供了更多的 PCIe 通道,扩展性方面相比于常规的家用 NAS 来肯定是强了不少。在网口方面 DXP6800 Ultra 提供了两个 10GbE 万兆网口。

对于个人用户来说,一个万兆网口基本已经够用;但放在工作室环境中,双万兆可以同时服务多台高速客户端,也能够为多人并发访问留出更多余量。

其它接口方面,6800 Ultra 的正面提供了两个雷电 4 接口、一个 USB 3.2 Gen2 接口和 SD 读卡器;

背面一个 USB 3.2 Gen 2、两个 USB 2.0 以及 HDMI 接口,HDMI 最高支持 8K 60Hz 输出,当然还有刚刚提到的两个万兆网络接口。

同时打开侧边的盖板,机身内部还提供了一个 PCIe x4 接口,你可以再为插上一张双口 PCIe 万兆网卡,嘿嘿!原本的双万兆网口瞬间就变成了四个万兆口!并且由于 UGOS Pro 底层使用的是 debian 系统,内核比较新,我这边试过好多张 PCIe 网卡,都能直接免驱;你也能插上 PCIe 存储设备,这样你的 DXP6800 Ultra 就有了更大的固态存储空间,可以说扩展性非常强。

盘位方面,6800 Ultra 采用的是 6sata+2 M.2 的组合,理论上,如果你拥有钞能力,堆满能提供 208TB 的存储空间,这对于大部分用户或者说对于大部分有专业需求的用户,这个存储空间都是完全够用的。

那既然说到了硬盘,现在硬盘价格这么贵,咱们中小工作室 NAS 应该怎么选硬盘呢?

团队工作室硬盘怎么选?

对于视频工作室来说,NAS 里存放的不只是成片,还有相机原片、剪辑工程、代理文件和各种历史版本。单个项目占用几百 GB 很正常,多机位、高码率素材甚至很容易超过 1TB。

因此,工作室选硬盘不能只看容量和价格,还要考虑能否适应 7 × 24 小时运行、长时间持续读写,以及多人同时访问。

比如一台电脑正在从 NAS 读取素材剪辑,另一台电脑同时上传文件,后台还有 Docker 应用读取数据,这种负载显然和普通电脑中的间歇性读写不同。

这次 DXP6800 Ultra 中使用的,就是东芝 N300 NAS 专用硬盘。

东芝 N300 采用 CMR 传统磁记录技术和 7200RPM 转速,面向 7 × 24 小时运行环境设计,支持最高 12 盘位 NAS,额定工作负载最高为 180TB/ 年。

针对多盘位环境,N300 还内置 RV 旋转振动传感器,用来降低多块机械硬盘同时运行时,旋转振动对硬盘工作状态产生的影响。特别是咱们这 6800 Ultra 六盘位 NAS,磁盘运行时带来的振动是不容忽视的一点,这时 N300 的内置 RV 旋转振动传感器就能保持硬盘相对稳定的运行。

咱们这也进行了传输的相关测试,使用 JBOD 模式,连上万兆口,传输一份 160G 的文件,能够维持在 200MB/s 以上的速度,这个表现在机械盘中算的上是非常不错了。

但,在实际的生产环境中,硬盘的温度表现也会影响到硬盘的寿命。所以在长时间高负载的情况下,能否保持相对低的温度就显得非常重要。

咱们这进行一小时的满载测试,看看在极限情况下,CPU、硬盘的温度表现如何。

极限 1 小时压测表现

测试开始时,室温 25 ℃:

CPU 封装温度为 53 ℃;

RTX 3080 核心温度为 48 ℃;

第一块硬盘温度为 42 ℃;

完整温度数据如下:

CPU 最高温度为 72 ℃,稳定阶段平均约 69.5 ℃

RTX 3080 最高温度同样为 72 ℃,稳定阶段平均约 71.6 ℃。

硬盘方面,初始温度 42 ℃,稳定运行时基本维持在 44 ℃左右,最高记录为 45 ℃。这个温度在极限压测中表现还算是很不错的了。如果是后续将六盘全部塞满,温度可能会稍微升高一些,但也在安全温度以内,非常适合中小型工作室里面 7*24 小时运行;

同时 CPU 和硬盘的温度表现,也从侧面反映出这台 DXP6800 Ultra 的散热系统非常高效,能有效将内部的热量带出。

功耗方面,我们这简单测试了下,在插入两块东芝 N300 8T 硬盘时,待机功耗基本上在 37 瓦左右;

在满载情况下,功耗在 45 瓦左右,如果全部插满硬盘,功耗可能会在对应增加 15 瓦左右,对于这样一台性能强悍的 NAS 来说,这个功耗还是可以接受的。

相信看到这里,大家伙对于这台 NAS 的性能有了一定的了解,可能有的小伙伴可能会问了,性能都这么强了,何必再上独显呢?

那咱们前面也说过了,上独显是为了满足更强的性能需求,如果你的需求没有那么高,其实也是完全没有必要的。

独显有什么用?

咱们先来看到绿联 UGOS Pro 系统自带的应用中外接独显都能有什么用。

相册调用独显:海量照片用户福音

UGOS Pro 系统中自带的相册应用中有不少的识别模型,下载模型之后可以利用这些模型对相册内的照片进行识别分析,方便后续搜索等等操作。

咱们这相册中的照片不多,只有一万多张,先来看看不使用独显,核显的计算速度能有多少。

可以看到在启用独显计算之后,这个识别的速度要比单独使用核显快上不少。

但有的小伙伴可能会说了:我插上一点独显就为了相册识别?那是不是有点太大材小用了呢?那我给这台 NAS 接上独显还能怎么玩呢?

在七月的更新中,UGOS Pro 中增加了独显直通 Docker 的功能,咱们之后部署的 Docker 容器如果对独显有支持的话,就能直接使用这个功能在 Docker 中使用独显的算力了。

Ollama 调用独显:228 倍的速度提升

现在各种模型的发展确实很令人惊讶,但现在很多使用都还得通过接入在线 API 的形式,说实话能力确实强了,但隐私泄露的风险也还是有的。那在本地部署属于自己的 AI 助手用途还是非常广泛的。

可如果单纯使用 CPU 来跑本地模型,我想用过的朋友肯定都不想再经历一遍,实在是太慢了!那既然咱们这已经接上了独显,就来用独显来试试吧!

我们这在 DXP6800 Ultra 上部署了 Qwen2.5 系列的几个模型,通过对比不难发现,在 7B 模型下,使用独显的速度是 CPU 的两百多倍!那同时由于模型跑在 CPU 上是需要占用内存的,而咱们这台 6800 Ultra 只有 8G 的内存,在某些情况下还存在根本运行不起来的情况;但使用 GPU 的话,模型是加载进显存,像咱们这 12G 的 3080 运行 7B 的模型基本上不成问题,如果更大一点的 14B,就需要分层到 CPU,速度相比于单独使用 GPU 要慢一些。

而且在模型加载速度上,使用独显的速度也要比 CPU 快上不少。

咱们这测试一个经典 AI 问题,可以看到在独显模式下,模型回答的非常快;而 CPU 模式下 ... 这个回答的速度几乎就是完全不可用的状态。

咱们的 NAS 是 7*24 小时运行,这样通过 Ollama 将模型部署在我们 NAS 本地,有推理需求时自动调用独显进行计算,空闲时独显也是处于待机状态,功耗也比较低;再通过 UGreen Link 的远程访问功能,咱们就获得了一个 7*24 小时部署在本地的 AI 助手了。

那有的小伙伴可能会说:我平时对于 AI 助手的需求几乎为零,本地部署 AI 模型对我来说完全没用,能不能有别的什么玩法呢?

嘿嘿!我这开发了一个生成 AI 字幕的 docker 应用,原先是使用 CPU 来计算,但是发现速度实在是太慢了,那现在通过雷电口接上独显,也就能利用独显来生成字幕,速度要快上不少。(这个项目是我自己开发的,目前还有些许 bug,先拿来做测试了,后面完善之后再发布和上架绿联应用商店)

不只是聊天:独显还能拿来做 AI 字幕生成

原先这个应用一直是使用 CPU 来计算的,但实际体验下来,最大的问题只有一个:速度太慢。

既然现在 DXP6800 Ultra 已经通过雷电口接上了独显,那这个应用自然也就能调用独显来进行字幕生成。

这次我们直接拿一条接近三小时的英文影片来测试,看看在 CPU 和独显两种模式下,生成速度到底能差多少。

这次测试主要用了 faster-whisper 引擎,并分别测试了 tiny 和 small 两个模型。

先来看到 tiny 模型:

GPU 模式总耗时:1 分 39 秒

CPU 模式总耗时:2 分 15 秒

这个差距不算特别夸张,大概是 1.4 倍。主要还是因为 tiny 模型本身计算量比较小,瓶颈更多是在音频提取和数据搬运上,GPU 的优势没有完全发挥出来。但 tiny 模型生成的字幕准确率上要更差一些。

咱们再将模型切换到 small 看看,看看差距能有多少。

GPU 模式总耗时:2 分 22 秒

CPU 模式总耗时:12 分 26 秒

也就是说,small 模型下,接入独显的情况下,速度相比于 CPU 模式提升了 5.3 倍!

这样的话,如果以后再遇到没有字幕的影片,通过这个 Docker 应用调用独显能力,也就能比较快地把字幕生成出来。

那有的小伙伴可能会说了:DXP6800 Ultra 这么多的盘位,像前面说的,非常适合在中小型工作室里面使用,同时也是作为视频工作室,平时有非常多的素材资料存在里面,想要找起来非常困难。那既然接上独显算力很猛,能不能对本地的素材进行计算呢?生成可搜索的描述呢?

咱们这也是直接 vibe coding 了一个本地素材管理工具,将需要分析的素材挂载上,就能自动开始分析并且生成描述以及可以进行 RAG 搜索。但如果是使用 NAS 本身的性能进行分析,素材量太多的情况下,需要耗费大量的时间,那接入独显,就能很好的解决这个问题。

生产力工具:本地素材库管理

我这里已经将需要分析的素材挂载上去了,并且已经启用了独显分析。

我们这里来试一下,让它汇总一下挂载的文件中有关发票的相关信息,可以看到这个 RAG 搜索就已经调用了独显。

可以看到这里已经将识别到的信息汇总给到了,并且还能看到涉及到的文件。这对于 NAS 中存了大量文件,需要进行快捷提取的用户来说可谓是非常方便了。

同时针对视频素材也能生成对应的描述。这些计算都是基于本地算力进行的,也就只有外接独显这种方式才能做到。

当然如果你手头没有闲置的独显,我这个项目也能使用 CPU 进行计算,我这里简单做了个测试,看看使用 CPU 和 GPU 对于同一段视频的描述生成时间差异有多大。

我们这个本地素材管理工具在分析视频时,会先从视频中提取三个关键帧,再分别调用视觉模型生成画面描述,最后将三段内容汇总成完整的视频描述。

CPU 模式下,三次生成耗时分别为 11.10 秒、13.80 秒和 10.80 秒,平均需要 11.90 秒。相比之下,RTX 3080 模式的平均耗时只有 1.19 秒;如果只比较模型预热后的稳定状态,独显速度最高可以达到 CPU 的约 17 倍。

总结:NAS 开始从存储设备变成计算节点

那我觉得 UGOS Pro 支持 Docker 调用外接显卡之后,NAS 的可玩性就大大增加了,也就意味着 NAS 不再仅仅只是一台能够存数据的设备,还能依靠其它的应用,做到读懂 NAS 中的数据。

当然,外接独显并不是所有用户都需要。对于照片备份、影音播放和文件共享,DXP6800 Ultra 自身的 Core 5 120U 已经够用;但对于视频创作者、开发者和小型工作室,独显确实能进一步扩展 NAS 的使用边界。

平时它是一台 7 × 24 小时运行的 NAS,需要字幕识别、素材分析和本地模型推理时,它又能变成一台本地计算节点。

同时,数据存储在东芝 N300 这类专门为 NAS 存储设计的硬盘中,也能有所保障。

那么好了,以上就是本篇文章的全部内容啦

希望对你有所帮助

上面的几个项目,待完善之后都会开源以及上架绿联的应用中心,到时候也希望各位用户可以反馈 bug

让我们下篇文章

再见

本文来自什么值得买网站(www.smzdm.com)

宙世代

宙世代

ZAKER旗下Web3.0元宇宙平台

一起剪

一起剪

ZAKER旗下免费视频剪辑工具

相关标签

nas ai ssd ai时代
相关文章
评论
没有更多评论了
取消

登录后才可以发布评论哦

打开小程序可以发布评论哦

12 我来说两句…
打开 ZAKER 参与讨论