EN
/news/show.php/video/18952682.html

DeepSeek Dify Ollama Docker Linux 私有化部署,建立你的专属私人部署 AI 助手

2025-06-24 12:22:34 来源: 新华社
字号:默认 超大 | 打印 |

在这里插入图片描述

在这里插入图片描述

文章目录

          • I.Ollama 相关安装部署。
            • 1. 安装Ollama
            • 2. Ollama 下载Deepseekekeekeek R1模型。
            • 3. Ollama 下载embedding模型
            • 4. 开放防火墙策略。
            • 5. ollama 服务验证
          • 2.Docker 安装。
            • 2.1. 工具包安装
            • 2.2. docker下载安装
            • 2.3. docker 镜像源配置
          • 3Dify 安装配置
            • 3.1. Dify 下载。
            • 3.2. Dify 配置。
            • 3.3. 安装Dify
            • 3.4. 体验和配置Dify服务
            • 3.5. 登录Dify
            • 3.6. Deepseek集成Dify
            • 3.7. Dify集成Embedding模型
            • 3.8. 创建空白应用的Dify
            • 3.9. Deepsekek体验Dify体验 模型服务。
          • 4.创建知识库
            • 4.1. 创建知识库
            • 4.2. 将文件上传到知识库
            • 4.3. 文件量化并加载到知识库
            • 4.4. 检查加载进度
            • 4.5. 体验 DeepSeek 本地私人AI知识库服务
            • 4.6. 效果评价
          • 5.远程使用公网 Dify。
            • 5.1. cpolar 下载安装。
            • 5.2. 查看cpolar状态
            • 5.3. 防火墙开放策略
            • 5.4. 服务验证。
            • 5.5. 创建远程连接公网地址。
            • 5.6. 访问Dify的固定域名

本文安装环境:Linux Rocky Linux 9.5。

使用 Docker Compose 部署:Docker 27.5.1 或更高的版本,Docker Compose 1.25.1 或更高版本。
安装 Dify 之前,请确保您的机器符合最低安装要求:CPU>2 Core RAM>=4GB。

名字。版本。
Linux Rocky Linux。9.5。
Docker。27.5.1。
Dify。0.15.3。
Ollama。0.5.11。
一、Ollama 相关安装部署。
1. 安装Ollama

输入下面的命令 ollama。

cd。/app。curl。-fsSL。https://ollama.com/install.sh。 |。sh。

在这里插入图片描述

systemctl daemon-reloadsystemctl restart ollama。
2. Ollama 下载Deepseekekeekeek R1模型。
ollama run deepseek-r1:1.5b。

在这里插入图片描述

3. Ollama 下载embedding模型。

成Embedding模型。

ollama pull bge-m3。

在这里插入图片描述

4. 开放防火墙策略。
firewall-cmd。 --zone。=public --add-port。=11434。/tcp。 --permanent。firewall-cmd。 --reload。
5. ollama 服务验证。

在这里插入图片描述

二、Docker 安装。
2.1. 安装工具包。
yum。 install。-y。yum-utils。
yum-config-manager --add-repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo。
2.2. docker下载安装。
yum。 install。-y。docker-ce。
systemctl。 enable。docker。--now。
2.3. docker 镜像源配置。
mkdir。-p。/etc/docker。
tee。/etc/docker/daemon.json。 <<-。'EOF'{   "registry-mirrors": [   "https://dockerpull.org",    "https://docker.1panel.dev",    "https://docker.foreverlink.love",    "https://docker.fxxk.dedyn.io",    "https://docker.xn--6oq72ry9d5zx.cn",    "https://docker.zhai.cm",    "https://docker.5z5f.com",    "https://a.ussh.net",    "https://docker.cloudlayer.icu",    "https://hub.littlediary.cn",    "https://hub.crdz.gq",    "https://docker.unsee.tech",    "https://docker.kejilion.pro",    "https://registry.dockermirror.com",    "https://hub.rat.dev",    "https://dhub.kubesre.xyz",    "https://docker.nastool.de",    "https://docker.udayun.com",    "https://docker.rainbond.cc",    "https://hub.geekery.cn",    "https://docker.1.panelproxy.com",    "https://atomhub.openatom.cn",    "https://docker.m.daocloud.io",    "https://docker.1ms.run",    "https://docker.linkedbus.com"  ]}EOF。
systemctl daemon-reloadsystemctl restart。 systemctl daemon-reloadsystemctl restart。
docker。docker。

--version。
[root@localhost docker]# docker --version。
Docker version 27.5.1, build 9f9e405。

Docker 镜像加速列表。
三、Dify 安装配置。
3.1. Dify 下载。git。clone https://github.com/langgenius/dify.git。cd。dify/docker。cp。.env.example .env。docker。 compose up。

在这里插入图片描述

-d。
3.2. Dify 配置。cd。dify/docker。cp。
.env.example .env。
3.3. 安装Dify。cd。dify/docker。docker。 compose up。

在这里插入图片描述
-d。

最后,检查所有容器是否正常运行:docker。 compose。

ps。

  • 检查时要特别注意以下几个关键容器的状态:
  • docker-api-1:API服务。
  • docker-web-1:Web界面。
  • docker-worker-1:后台任务处理。
  • docker-db-1:数据库。
  • docker-redis-1:缓存服务。
    在这里插入图片描述
docker-nginx-1:反向代理。

3.4. 体验和配置Dify服务。然后打开新的浏览器,输入。http://ip/install。

,可见进入 Dify 中。

http:/192.168.10install。
在这里插入图片描述

设置管理员账号:填写邮箱、用户名、密码后,再次登录。

在这里插入图片描述

在这里插入图片描述

3.5. 登录Dify。

在这里插入图片描述
在这里插入图片描述

3.6. Deepseek集成Dify。

在这里插入图片描述

在这里插入图片描述
3.7. 集成Embedding模型的Dify。
在这里插入图片描述

刷新浏览器后,验证。

3.8. 创建空白应用程序的Dify。
在这里插入图片描述

在这里插入图片描述

然后回到主页,点击创建空白应用程序。

在这里插入图片描述

3.9. Deepsekek体验Dify体验 模型服务。
四、创建知识库。

在这里插入图片描述

4.1. 创建知识库。

在这里插入图片描述
4.2. 将文件上传到知识库。
在这里插入图片描述

点击下一步。

在这里插入图片描述

4.3. 将文件量化并加载到知识库。

在这里插入图片描述

4.4. 检查加载进度。

在这里插入图片描述
4.5. 体验 DeepSeek 本地私人AI知识库服务。
在这里插入图片描述
相关知识库知识文件。

输入问题:

在这里插入图片描述

申请重大疾病保险时󿼌提供以下文件?

在这里插入图片描述
4.6. 效果评估。

基本符合预期。

五、远程使用公网 Dify。
下面我们在 Linux 安装 Cpolar 通过内网穿透工具 Cpolar 转发本地端口映射 http 我们可以轻松实现远程访问,而无需注册域名购买云服务器。以下是安装 cpolar 步骤。

cpolar 官网地址:https://www.cpolar.com/。

在这里插入图片描述
5.1. cpolar 下载安装。
在这里插入图片描述

点击右上角注册。

用一键脚本安装命令。curl。 https://get.cpolar.sh。|。sudo。

sh。

安装完成后,执行下面的命令查看 cpolar 服务状态:(如图所示,正常启动)
5.2. 查看cpolar状态。sudo。

在这里插入图片描述
systemctl status cpolar。Cpolar 安装和成功启动服务后󿀌输入浏览器 Rocky 主机 IP 加 9200 端口即:。【http://ip:9200】。

访问 Cpolar 管理界面󿀌使用 Cpolar 登录官网注册的账号,登录后即可看到 cpolar web 接下来是配置界面 web 界面配置可以:
5.3. 开放防火墙策略。 firewall-cmd。--zone。=public --add-port。=9200。 /tcp。--permanent。 firewall-cmd。
--reload。
5.4. 服务验证。

在这里插入图片描述

http://192.168.10.128:9200/。

5.5. 创建远程连接公网地址。

登录 cpolar web UI 管理界面后,单击左侧仪表板的隧道管理-创建隧道:

  • 隧道名称:可自定义�本例使用: dify 注意不要与现有的隧道名称重复。
  • 协议:http。
  • 地址:80。
  • 域名类型:随机域名。

在这里插入图片描述

区域:选择 China Top。
在这里插入图片描述
创建成功后,打开左侧在线隧道列表,您可以看到两个公共网站地址࿰刚刚通过创建隧道生成c;接下来,您可以在其他计算机上(异地)上,在浏览器中访问任何地址。
在这里插入图片描述

在这里插入图片描述
在这里插入图片描述
如下图所示,#xff00c;公网地址远程访问本地部署的成功实现 Dify 应用开发平台!

为了方便演示󿀌我们在上述操作过程中使用了它 cpolar 生成的 HTTP 公共网址隧道�其公网地址是随机生成的。

这种随机地址的优点是建立速度快,可立即使用。但是,它的缺点是网站是随机生成的,这个地址在 24 随机变化发生在小时内,#xff0c;更适合临时使用。

5.6. 访问Dify的固定域名。
如果长期远程访问本地,如果有长期远程访问 Dify 需求࿰开发应用程序平台或其他本地部署服务c;但是我不想每天重新配置公网地址,还想好好记住地址#xff0c;然后我建议您选择使用固定的二次子域名进行远程访问。
5. 固定 Dify 公网地址。

由于上述使用 cpolar 隧道采用随机公网地址,24 #xff00会在小时内随机变化c;不利于长期远程访问。因此,我们可以配置二级子域名,该地址为固定地址,没有随机变化.。

在这里插入图片描述
注意需要将 cpolar 将套餐升级到基本套餐或以上󿀌而且每个套餐对应的带宽都不一样。【cpolar.cn 已备案】。
在这里插入图片描述
保留成功后复制保留的二级子域名地址:

登录 cpolar web UI 管理界面󿀌点击左侧仪表板的隧道管理-隧道列表,找到要配置的隧道,点击右侧的编辑器。

  • 修改隧道信息󿀌在隧道中配置成功的二级子域名。
  • 域名类型:选择二级子域名。
  • Sub Domain:填写保留成功的二级子域名。
  • 地区: China VIP。
    在这里插入图片描述
    点击更新。

在这里插入图片描述
更新完成后󿀌打开在线隧道列表,此时可以看到随机公网地址发生了变化,地址名称也变成了保留和固定的二级子域名称。在这里插入图片描述
在这里插入图片描述
最后,我们使用固定的公网地址访问 Dify 界面可以看到成功的访问󿀌设置永久不会改变的远程访问模式。
接下来,异地公网可以随时随地使用 Dify 开发应用程序平台,与身边的人分享固定的公网地址,方便团队合作󿀌同时也大大提高了工作效率!如果你自己用,,不需要云服务器,还可实现异地其他设备登录!以上是如何在当地安装的。 Dify 并搭建 Ollama 整个过程。

如果觉得有用,点赞 👍🏻 呗。
请联系作者wx:gb754263923。

提供:远程技术服务。

【我要纠错】责任编辑:新华社