当前位置: 首页 > article >正文

Linux 服务器部署deepseek

把手教你在linux服务器部署deepseek,打造专属自己的数据库知识库

正文开始

4d9d99a000cb2717d6b71581a69380f1.png

第一步:安装Ollama

打开官方网址:https://ollama.com/download/linux
下载Ollama linux版本
7f5caf4ce65f2940cbcb669aa8cb9874.png
复制命令到linux操作系统执行

[root@postgresql ~]# curl -fsSL https://ollama.com/install.sh | sh

23dc89347f34c40e3b1a613776f2be99.png

在Service中增加下面两行
 
  1. [root@localhost ~]# vi /etc/systemd/system/ollama.service

  2. Environment="OLLAMA_HOST=0.0.0.0"

  3. Environment="OLLAMA_ORIGINS=*"

ffff10f54c0772777d639011db72eb78.png

然后重启ollama服务
 
  1. [root@localhost ~]#systemctl daemon-reload

  2. [root@localhost ~]#systemctl restart ollama

验证服务是否开启,11434是核心端口,必须开启。

[root@localhost ~]# ss -anlp|grep 11434

039dd40e8176d64af69502308ac8503b.png 登录验证
浏览器直接访问192.168.47.136:11434
fa8149da3ae69624fcddda5225a6e5b5.png
出现Ollama is running,即正常。

第二步:部署Deepseek R1模型

还是在ollama官网上,点击Models,选择deepseek-r1,不同版本对应的体积大小不同,体积越大模型越精细化,只需要复制命令即可,我这里选择7b。
09c7fbbab8a68c6bc73425fd0959b6cb.png
10b96aead7cae5dcc15ec9ccd3b27150.png

[root@postgresql ~]#ollama run deepseek-r1:7b

84d0dc50963b41ab70eb9c93ae1eb2e6.png

[root@localhost ~]# ollama list

d337cae16225f922b1afd4beb200f685.png

交互式聊天模式:

[root@localhost ~]#ollama run deepseek-r1

d454d58d5a6cadc22d719fe10bc6f8e4.png

第三步:配置可视化界面

安装docker

 
  1. [root@localhost yum.repos.d]#wget http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

  2.  [root@localhostyum.repos.d]#yum install docker-ce-20.10.9-3.el7 docker-ce-cli-20.10.9-3.el7 containerd.io

  3. [root@localhost yum.repos.d]#systemctl start docker

  4. [root@localhost yum.repos.d]#systemctl status docker

  5. [root@localhost yum.repos.d]# docker --version

  6. [root@localhost yum.repos.d]#docker info

[root@postgresql yum.repos.d]# docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=http://192.168.47.136:11434 -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

6d03110dc45c552e99973bd79a7dbd69.png

访问控制台:

http://192.168.47.136:3000

f845219174ec2180603b351fc7fbb116.png

edbd59b2bb82ccb715ed0caa3b40f3f4.png

30779dc8703ca5a7c0751d666b92e936.png
866be852ae04ae2e2c86eaca5b9d8d17.png
1e0a99dcab596951572e8b225db57bf6.png
可以进行专属知识库的建立
ca7cbbc8b4bdfcf9dfb355e66e3717ef.png拖动上传文件至该区域即可,大家根据自己的需要进行文件的上传。
70f2b06fcb0eab05b4efe3b6ce874b45.png

到这里,我们就完成的在linux服务器部署deepseek,并使用webui界面友好的展示。


http://www.kler.cn/a/546507.html

相关文章:

  • c++:STL介绍
  • HCIA综合项目之多技术的综合应用实验
  • 数据结构 二叉树
  • H5自适应响应式代理记账与财政咨询服务类PbootCMS网站模板 – HTML5财务会计类网站源码下载
  • 什么手机卡最便宜 怎么办手机卡最便宜
  • 【Qt】:概述(下载安装、认识 QT Creator)
  • 2025 docker可视化管理面板DPanel的安装
  • 探索后端开发中的异步API:基于Resilience4j与Reactive Programming的高性能设计
  • AI Agent未来走向何方?
  • 数值积分:通过复合梯形法计算
  • 网络将内网服务转换到公网上
  • Spring Boot 的约定优于配置,你的理解是什么?
  • 域森林基础及环境搭建
  • Kubernetes 面试题精解:从入门到进阶
  • JAVA实战开源项目:宠物咖啡馆平台(Vue+SpringBoot) 附源码
  • 【代码随想录】刷题记录(114)-岛屿数量(深搜)
  • 无耳科技 Solon v3.0.8 发布,Java 企业级应用开发框架
  • 【LLM强化学习】LLM 强化学习中 Critic 模型训练详解
  • 蓝桥杯篇---实时时钟 DS1302
  • 若依 ruoyi-vue 隐藏字典样式
  • 什么是多光谱环形光源
  • 哈希表-四数之和
  • 详解 Java 基础的多态机制
  • EventSource的使用
  • 后端调试指南
  • 消息队列之-springcloud-mq-stream 学习