当前位置: 首页 > article >正文

Ubuntu22.04 配置deepseek知识库

文章目录

      • 安装 docker
      • 配置 dify
      • 配置 ollama
      • 创建大模型

安装 docker

  • 更新系统:
    sudo apt update
    sudo apt upgrade -y
    
  • 安装必要的依赖:
    sudo apt install apt-transport-https ca-certificates curl software-properties-common -y
    
  • 添加 Docker 的官方 GPG 密钥:
    curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo gpg --dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg
    
  • 添加 Docke r的 APT 源:
    echo "deb [arch=amd64 signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
    
  • 更新软件包并安装 docker :
    sudo apt-get update
    sudo apt-get install docker-ce docker-ce-cli containerd.io
    
  • 启动并验证 docker :
    sudo systemctl start docker  # 启动 Docker 服务
    sudo systemctl enable docker  # 设置 Docker 服务为开机自启动
    sudo systemctl status docker # 检查 Docker 守护进程状态
    
  • 调整镜像源:
    sudo vim /etc/docker/daemon.json
    
    配置如下地址:
    {
    "registry-mirrors": [
    "https://2a6bf1988cb6428c877f723ec7530dbc.mirror.swr.myhuaweicloud.com",
    "https://docker.m.daocloud.io",
    "https://hub-mirror.c.163.com",
    "https://mirror.baidubce.com",
    "https://your_preferred_mirror",
    "https://dockerhub.icu",
    "https://docker.registry.cyou",
    "https://docker-cf.registry.cyou",
    "https://dockercf.jsdelivr.fyi",
    "https://docker.jsdelivr.fyi",
    "https://dockertest.jsdelivr.fyi",
    "https://mirror.aliyuncs.com",
    "https://dockerproxy.com",
    "https://mirror.baidubce.com",
    "https://docker.m.daocloud.io",
    "https://docker.nju.edu.cn",
    "https://docker.mirrors.sjtug.sjtu.edu.cn",
    "https://docker.mirrors.ustc.edu.cn",
    "https://mirror.iscas.ac.cn",
    "https://docker.rainbond.cc"
    ]
    }
    
    重新加载配置文件及 docker 服务:
    systemctl daemon-reload
    systemctl restart docker
    
  • 拉取镜像测试:
    sudo docker pull hello-world
    sudo docker run hello-world
    
  • 加入当前用户进 docker 组:
    sudo usermod -aG docker $USER
    
    这里的 $USER 是当前登录的用户名。

配置 dify

  • 拉取 dify:
    git clone https://github.com/langgenius/dify.git
    
  • 进入 Dify 源代码的 Docker 目录,启动Dify:
    cd dify/docker
    cp .env.example .env
    sudo docker compose up -d
    
  • 查看当前运行的 docker 服务:
    docker ps
    
    在这里插入图片描述

配置 ollama

  • 安装 ollama:
    curl -fsSL https://ollama.com/install.sh | sh
    
  • 启动服务:
    sudo systemctl daemon-reload
    sudo systemctl enable ollama
    sudo systemctl start ollama
    
  • 配置环境变量:
    sudo vim /etc/systemd/system/ollama.service
    
    [Service] 部分下添加一行 Environment
    [Service]
    Environment="OLLAMA_HOST=0.0.0.0"
    
    重载 systemd 并重启 Ollama :
    systemctl daemon-reload 
    systemctl restart ollamai
    
  • 拉取大模型及服务:
    ollama run deepseek-r1:7b
    ollama pull bge-large
    
  • 配置 ollama:
    在 Dify 主界面,点击右上角个人名字圆圈,点击设置——模型供应商——Ollama:
    在这里插入图片描述
    若 Dify 为 docker 部署,建议填写局域网 IP 地址或 docker 宿主机 IP 地址;若为本地源码部署,可填写 http://localhost:11434。
    当模型支持多模态时,可勾选 Vision
    在这里插入图片描述
  • 为知识库添加 bge-large 模型:
    在这里插入图片描述

创建大模型

回到主页面当中,点击创建空白应用


http://www.kler.cn/a/542983.html

相关文章:

  • 中间件-安装Minio-集成使用(ubantu-docker)
  • Unity URP后处理在Game窗口不显示
  • HarmonyOS 5.0应用开发——NodeContainer自定义占位节点
  • NLP Word Embeddings
  • 2.11学习记录
  • 11vue3实战-----封装缓存工具
  • 【Linux】修改语言编码
  • 通过命令行运行py文件与通过ide运行py文件,对文件中模块的引用方式的影响
  • Vue3.5 企业级管理系统实战(六):Vue3中defineProps用法
  • C# ASP.NET核心特性介绍
  • Java基础知识(七) -- 集合
  • 初学springboot注解
  • 【计算机网络】TCP/IP 网络模型有哪几层?
  • UI-设计规范大小总结
  • 4G/5G路由器链路检查作业指导
  • 14.1 AutoGPT 项目深度解析:为什么它能掀起自主智能体开发革命?
  • 安防机器人电源解决方案
  • 网络在线考试|基于vue的网络在线考试系统的设计与实现(源码+数据库+文档)
  • Python自动化办公之批量重命名
  • MySQL 动态分区管理:自动化与优化实践
  • PortSwigger——WebSockets vulnerabilities
  • 【GeeRPC】Day5:支持 HTTP 协议
  • 浙江大华社招面试
  • PyTorch 中 `torch.cuda.amp` 相关警告的解决方法
  • 手撕Transformer编码器:从Self-Attention到Positional Encoding的PyTorch逐行实现
  • MySQL主从复制过程,延迟高,解决应对策略