当前位置: 首页 > article >正文

ubuntu docker 安装 deepseek anythingllm/openwebui教程

全新服务器安装起始:

1. 安装ubuntu到服务器中

2. 安装docker

        安装教程 ubuntu 安装 docker详细教程_ubuntu安装教程docker-CSDN博客

3. 安装 ollama

docker pull ollama/ollama

3.1 创建 存储目录 (示例放在/home/ollama中)

cd /home/
mkdir ollama
chmod 777 ollama

3.2 创建ollama 容器

docker run -d -v /home/ollama:/root/.ollama -p 11434:11434 --name ollama --restart=always ollama/ollama

3.3 验证是否安装成功

3.4 安装对应的deepseek 模型(示例安装 14b,目前纯cpu再跑,32核32G 照样100%)

docker exec -it ollama ollama run deepseek-r1:14b

3.5  安装完成尝试问答

4. 安装 open-webui

docker pull ghcr.io/open-webui/open-webui:main

4.1 创建存储目录

cd /home/
mkdir openui
chmod 777 openui

4.2 安装完成后创建容器

docker run -p 3030:8080 --add-host=host.docker.internal:host-gateway -v /home/openui:/app/backend/data --name open-webui --restart=always -d ghcr.io/open-webui/open-webui:main

4.3 验证是否安装成功

5. 安装 anythingllm

docker pull mintplexlabs/anythingllm

5.1 创建存储目录

cd /home/
mkdir anythingllm
chmod 777 anythingllm
cd anythingllm
mkdir storage
mkdir env

5.2 创建容器

docker run -d --name anythingllm --add-host=host.docker.internal:host-gateway --env STORAGE_DIR=/app/server/storage --health-cmd "/bin/bash/use/local/bin/docker-healthcheck.sh || exit 1" --health-interval 60s --health-start-period 60s --health-timeout 10s --cap-add SYS_ADMIN -p 3001:3001/tcp --restart=always --user anythingllm -v /home/anythingllm/env:/app/server/storage/.env -v /home/anythingllm/storage:/app/server/storage -w /app -d mintplexlabs/anythingllm

5.3 验证是否安装成功

6. 至此所有安装完成,愉快体验本地版 deepseek ,没显卡的话 速度非常感人。

7. 步骤 3 4 5 可以多开ssh 同时进行,安装都很慢

参考链接

LLM学习笔记2——使用Docker(Ollama+OpenWebUI)实现本地部署DeepSeek-R1-14B模型_ollama docompose-CSDN博客

ollama部署deepseek-r1+webUI实践 - 懒懒初阳 - 博客园

Docker环境安装anythingllm_docker安装anythingllm-CSDN博客


http://www.kler.cn/a/556393.html

相关文章:

  • npm包无法识别命令
  • 亚马逊AI图像模型Nova深度体验(含源代码)(上)
  • 深度测评 | AI引领安全运营提升用户使用感受及分析处置能力
  • Docker小雅Emby全家桶配置夸克网盘Cookie教程
  • Django Admin: 实现基于数据库实际值的动态过滤器
  • 微信小程序消息推送解密
  • c++:stack与deque
  • 英文字体:极简现代浓缩未来派科技海报标题排版无衬线字体 PODIUM Sharp Font
  • SRS编译arm版本出错 ERROR: opus not found using pkg-config
  • 体育电竞比分网开发流程
  • 大数据运维实战:通过自定义Hooks优化Spark Catalyst,提升Spark性能
  • 一文详解U盘启动Legacy/UEFI方式以及GPT/MBR关系
  • qt.qpa.fonts: Unable to open default EUDC font: “EUDC.TTE“
  • Redis三剑客解决方案
  • selenium爬取苏宁易购平台某产品的评论
  • 【QT中的一些高级数据结构,持续更新中...】
  • 汽车智能制造企业数字化转型SAP解决方案总结
  • Redis数据结构总结-listPack
  • OpenMetadata MySQL数据质量治理实现分析
  • 【Alertmanager】alertmanager告警多种通知方式--企业微信告警、钉钉告警、电话和短信告警