当前位置: 首页 > article >正文

Ubuntu部署Deepseek-R1模型(8b)

安装ubuntu系统

本机电脑系统ubuntu-20.04
#升级软件

sudo apt-get update

#安装curl

sudo apt-get install curl

通过以上两条指令,完成了curl命令的安装。
安装ollama
打开Ollama官网
在这里插入图片描述
选择Linux,
在这里插入图片描述

给出如上图方框所示的一条指令

curl -fsSL https://ollama.com/install.sh | sh

这条指令就是把ollama拖下来并执行安装。
在这里插入图片描述
ollama的下载速度很快,安装也很快。
然后运行

ollama -v

显示正常即表示安装成功,如:
在这里插入图片描述
下载deepseek-r1镜像
依然是在ollama的官网上,选择"Models",选择deepseek。
在这里插入图片描述
我的电脑是INVIDIA显卡,点击进来可以看得到各个版本的信息
1.5B的模型大概1.1G,
8B的模型大概4.9G,复制指令黏贴到命令行里,就可以自动开始下载了
这里测试8B模型

ollama run deepseek-r1:8b

在这里插入图片描述
在这里插入图片描述
测试
在这里插入图片描述
在这里插入图片描述

docker安装

我这里已经安装完毕,查看版本

docker --version

在这里插入图片描述

安装open-webui

open-webui是一个UI页面,支持ollama等多种工具的可视化。

sudo docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.nju.edu.cn/open-webui/open-webui:main

在这里插入图片描述
在这里插入图片描述
打开个浏览器,输入地址127.0.0.1:3000访问
在这里插入图片描述
随便配置个账号密码,邮箱和密码后面是需要用来登录使用的,然后点击创建管理员账号。 回车后需要稍微等一等加载

sudo vim /etc/systemd/system/ollama.service

添加

Environment="OLLAMA_HOST=0.0.0.0"

网页显示
在这里插入图片描述

sudo systemctl daemon-reload
sudo systemctl restart ollama

网页测试

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

参考:
https://blog.csdn.net/tizi666666/article/details/145414886


http://www.kler.cn/a/533812.html

相关文章:

  • 游戏引擎学习第88天
  • android 自定义通话录音
  • 基于PLC的电热水器的水箱水位控制系统(论文+源码
  • PyQt6/PySide6 的 QLineEdit 类
  • 【1】快手面试题整理
  • 顺序打印数字的进一步理解
  • 基于微信小程序的医院综合服务平台的设计与实现ssm+论文源码调试
  • 亚博microros小车-原生ubuntu支持系列:22 物体识别追踪
  • AI绘画:解锁商业设计新宇宙(6/10)
  • 使用request库实现接口测试-笔记
  • 阿里云 ubuntu22.04 中国区节点安装 Docker
  • 2024年12月 Scratch 图形化(一级)真题解析 中国电子学会全国青少年软件编程等级考试
  • arm 下 多线程访问同一变量 ,使用原子操作 性能差问题
  • 【Git】二、分支管理详解
  • 2024年12月 Scratch 图形化(三级)真题解析 中国电子学会全国青少年软件编程等级考试
  • 记录一下 在Mac下用pyinstallter 打包 Django项目
  • 自己实现的一个缓存数据库(搞着玩) .net Core/6/8/9
  • 【C语言高级特性】位操作(二):应用场景
  • python开发:爬虫示例——GET和POST请求处理
  • vue2-给data动态添加属性
  • WPS中解除工作表密码保护(忘记密码)
  • 手写MVVM框架-实现v-model(单向绑定)
  • rabbitMQ数据隔离
  • 1 HBase 基础
  • PHP 中 `foreach` 循环结合引用使用时可能出现的问题
  • 【C++】STL——vector的使用