作者:啥都没有
前不久双 11 入手了华硕最新推出的 NUC 15 Pro 迷你主机,其采用 Intel 全新一代酷睿 Ultra 200H 系列处理器,多核、核显、能效都比上一代提升了 20% 以上,拥有 99TOPS 的高分算力,AI 生产力直接拉满。

大家如果想详细了解这款 NUC 15 Pro 迷你主机可以看我前面写的实测文章,这篇主要介绍一下如何在华硕 NUC 15 Pro 迷你主机上部署基于本地知识库的 DeepSeek,远离大模型幻觉,轻松打造自己专属的 AI 大模型。
一、DeepSeek 本地部署
首先我们先进行 DeepSeek 本地部署,DeepSeek 按照参数分为很多个版本,参数越多模型能力越强,但随着参数的增加对硬件的要求也越来越高,我手头这款华硕 NUC 15 Pro 迷你主机 CPU 为英特尔第二代酷睿 Utra 7 255H,核显为 140T GPU,可以共享 16GB 内存,我们先去 ModelScope 社区下载 Ollama 英特尔优化版。

下载 Ollama 英特尔优化版压缩包后解压缩到硬盘。

以系统管理员权限运行 start-ollama.bat 文件。

由于核显可以共享 16GB 内存,所以我们直接选择 deepseek-r1:14b 模型,在窗口输入 ollama run deepseek-r1:14b 命令开始下载安装模型。

模型下载完成后我们就可以直接在命令窗口进行提问,我问的是如何进行自律,DeepSeek 响应非常快,不一会儿就洋洋洒洒的给出了答案,大家可以看到大模型调用的是 GPU,酷睿 Utra 7 255H 的核显确实给力,运行 14b 模型非常流畅。
二、 RAGFlow 安装配置
在本地部署好 DeepSeek 大模型以后,如何解决大模型幻觉问题?让大模型回答更加贴合我们的需求?这个时候有几种方式,第一种就是模型微调,模型微调不但对技术要求比较高,而且还要付出高昂的成本。第二种就是 RAG ( Retrieval-AugmentedGeneration ) 技术,中文意思就是检索增强生成,使用 RAG 技术我们可以轻松构建自己专属的知识库。

首先我们先在本机安装 Docker,Docker 是非常流行的容器引擎,使用它我们可以利用别人制作好的镜像快速运行各种软件,部署效率翻了好几倍。大家去 Docker 官网下载 windows 版本,然后双击安装,等待几分钟安装完毕。


市面上 RAG 引擎非常多,我们选择基于深度文档理解构建的开源 RAGFlow 来进行演示,其系统架构如下图所示,最小安装硬件要求为 CPU >= 4 核,RAM >= 16 GB,Disk >= 50 GB,Docker >= 24.0.0 & Docker Compose >= v2.26.1,对于性能强劲的华硕 NUC 15 Pro 迷你主机来说毫无压力。

使用 git clone>运行 docker compose -f docker-compose.yml up -d 命令安装启动镜像。

所有容器下载完毕后会自动启动,总共有 5 个容器。

首次我们使用浏览器访问本机的 80 端口,先输入账号密码创建一个账号,然后使用新建的账号密码进行登录。


整个界面相当清新简约,总共有知识库、聊天、搜索、Agent、文件管理多个菜单。

打开模型提供商界面,目前主流的模型框架在这里都可以找到,都可以与 ragflow 无缝集成,前面我们使用 Ollama 部署了 DeepSeek 大模型,我们点击 Ollama 图标下面的添加模型按钮进行模型添加。

选择模型类型,输入模型名字、Ollama 地址、最大 Token 数,点击确定。

在聊天界面新建助理,配置好模型。

接着我们就可以愉快的进行聊天了,让 DeepSeek 写一篇张家界游记,GPU 火力全开,一会儿就写完了。
三、 个人知识库整合
要让 DeepSeek 回答问题更加正确,避免出现大模型幻觉,我们需要建立自己的知识库,在 RAGFlow 界面里面可以分门别类的创建很多知识库,比如针对数码产品评测我建立了一个数码评测知识库。



我们将整理好的漫步者 s300 音箱资料上传到数码评测知识库。

上传成功后点击解析按钮完成解析就可以直接使用了。

下面让我们看看有没有知识库的结果,由于这款漫步者音箱 S300 是新出的,所以我们不用知识库的时候,DeepSeek 的回答如下,很多内容其实都不对。

要使用知识库需要编辑一下聊天助理,引入数码评测知识库。

再次让 DeepSeek 进行创作,它会先学习知识库,给出的内容完全正确,大家可以对比一下没有知识库的回答,真的云泥之别,这就是知识库的魅力。
四、 总结
RAGFlow+DeepSeek 本地部署还是非常简单的,有了知识库以后 DeepSeek 回答问题更加准确,有效解决了大模型幻觉问题。最新上市的华硕 NUC 15 Pro 迷你主机配置真的给力,性能相当强劲,同时运行 DeepSeek+Docker+RAGFlow 的一堆容器都游刃有余,一台巴掌大的迷你主机瞬间变成我们的 AI 生产力装备,华硕的做工、品质、售后也是一流的,大家可以放心入手,参照本篇教程轻松打造自己专属的 AI 大模型!





登录后才可以发布评论哦
打开小程序可以发布评论哦