背景拥有自己的知识库。希望知识库不在互联网暴露。在任何地方都可以进行连接或者使用。同时也有使用满配deepseek671b的诉求。以后可以用于微调训练。参考教程https://www.bilibili.com/video/av113967426962378/?vd_source849acffc348d69f2ea309d3d782ac85bollama官方https://ollama.com/openwebui官方https://www.openwebui.com/部署教程1. 安装ollama登陆官网下载https://ollama.com/并在终端安装我是用服务器命令安装的curl-fsSLhttps://ollama.com/install.sh|sh2. 安装deepseek3.安装webuiopenwebui https://www.openwebui.com/https://github.com/open-webui/open-webui利用docker安装dockerrun-d-p3000:8080 --add-hosthost.docker.internal:host-gateway-vopen-webui:/app/backend/data--nameopen-webui--restartalways ghcr.io/open-webui/open-webui:main登陆http://51.159.177.86:3000/进行注册4.解决无法访问的ollama中模型的问题参考https://blog.csdn.net/weixin_63274008/article/details/143271859看了很多方法这个方法解决了我的问题。问题原因ollama只能本地访问127.0.0.1解决思路改为 0.0.0.0表示允许所有人访问。# 1.重新安装选用没必要curl-fsSLhttps://ollama.com/install.sh|sh# 2.更改配置文件sudovim/etc/systemd/system/ollama.service# 3.配置远程访问EnvironmentOLLAMA_HOST0.0.0.0# 4.重启ollamasystemctl daemon-reload systemctl restart ollama浏览器访问http://IP:11434/出现Ollama is running代表成功。选择中自然而然即可找到。功能介绍1. chatbox2. 调用api3.参数选择4. 知识库选择注使用方法是选择#后的知识库进行问答。5. 本地部署模型原因比如医院要求内网无法连接互联网所以没办法调用apiapi没办法进行微调训练。各别提供的有api微调服务在这里不考虑即使有考虑到数据安全问题不去使用6. 权限管理
deepseek云端部署及结合本地知识库(结合api调用)可视化界面应用
背景拥有自己的知识库。希望知识库不在互联网暴露。在任何地方都可以进行连接或者使用。同时也有使用满配deepseek671b的诉求。以后可以用于微调训练。参考教程https://www.bilibili.com/video/av113967426962378/?vd_source849acffc348d69f2ea309d3d782ac85bollama官方https://ollama.com/openwebui官方https://www.openwebui.com/部署教程1. 安装ollama登陆官网下载https://ollama.com/并在终端安装我是用服务器命令安装的curl-fsSLhttps://ollama.com/install.sh|sh2. 安装deepseek3.安装webuiopenwebui https://www.openwebui.com/https://github.com/open-webui/open-webui利用docker安装dockerrun-d-p3000:8080 --add-hosthost.docker.internal:host-gateway-vopen-webui:/app/backend/data--nameopen-webui--restartalways ghcr.io/open-webui/open-webui:main登陆http://51.159.177.86:3000/进行注册4.解决无法访问的ollama中模型的问题参考https://blog.csdn.net/weixin_63274008/article/details/143271859看了很多方法这个方法解决了我的问题。问题原因ollama只能本地访问127.0.0.1解决思路改为 0.0.0.0表示允许所有人访问。# 1.重新安装选用没必要curl-fsSLhttps://ollama.com/install.sh|sh# 2.更改配置文件sudovim/etc/systemd/system/ollama.service# 3.配置远程访问EnvironmentOLLAMA_HOST0.0.0.0# 4.重启ollamasystemctl daemon-reload systemctl restart ollama浏览器访问http://IP:11434/出现Ollama is running代表成功。选择中自然而然即可找到。功能介绍1. chatbox2. 调用api3.参数选择4. 知识库选择注使用方法是选择#后的知识库进行问答。5. 本地部署模型原因比如医院要求内网无法连接互联网所以没办法调用apiapi没办法进行微调训练。各别提供的有api微调服务在这里不考虑即使有考虑到数据安全问题不去使用6. 权限管理