当前位置: 首页 > article >正文

DeepSeek R1安装与使用

DeepSeek R1安装与使用

1、安装 Ollama

如果之前没有安装过 Ollama,先在 Ollama官网 下载对应系统的 Ollama 进行安装。

在这里插入图片描述

2、部署 DeepSeek R1 模型

选择需要下载的模型。这里我们选择 deepseek-r1

在这里插入图片描述

根据自己机器配置,选择不同参数的模型。这里我们选择7b。

  • xxxb表示的是多大的参数,即当前这个模型是用多大规模的参数来训练的,b表示十亿。

    参数越大,模型的推理能力越强,对机器的配置要求也越高。

在这里插入图片描述

复制对应的命令,在终端执行

在这里插入图片描述

出现 success 和 Send a message 的提示就说明安装成功了,可以直接在这里提问。

3、终端使用

本地部署完成之后,就可以在未联网的情况下使用 DeepSeek R1 了。

输入问题后,终端会显示 DeepSeek 的思考过程<think>标签,以及正文。

在这里插入图片描述

输入/bye退出模型(默认情况下,模型会在内存中保留一段时间后才被关闭)

  • 此时输入ollama ps命令会发现模型仍在内存中,过一段时间就没有了。

在这里插入图片描述

如果需要立即从内存中关闭模型,则使用ollama stop model_name命令即可

在这里插入图片描述

4、集成 Chatbox

终端进行对话不够直观,我们可以到 Chatbox官网 安装 Chatbox(AI 客户端应用)

在这里插入图片描述

打开Chatbox,选择 使用自己的 API Key 或本地模型

在这里插入图片描述

选择 Chatbox AI

在这里插入图片描述

选择本地模型

在这里插入图片描述

现在就可以在 可视化界面 进行提问了

在这里插入图片描述

附录:Ollama 常用命令

# 显示当前 ollama 工具的版本信息。
ollama -v
ollama --version

# 列出本地所有可用的模型,可以在这里查看模型名称 model_name。
ollama list
ollama ls

# 查看特定模型的详细信息,例如模型名称、版本等。
ollama show model_name

# 运行一个已安装的模型,执行某些任务。(没有安装会先安装)
ollama run model_name

# 关闭一个运行的模型。
ollama stop model_name

# 删除一个已安装的模型。
ollama rm model_name

# 使用 Modelfile 来创建一个新模型。你需要提供一个包含模型信息的 Modelfile。
ollama create /path/to/Modelfile

http://www.kler.cn/a/530627.html

相关文章:

  • Python 中最大堆和最小堆的构建与应用:以寻找第 k 大元素为例
  • MySQL数据库环境搭建
  • 猴子吃桃问题
  • PVE 中 Debian 虚拟机崩溃后,硬盘数据怎么恢复
  • R 字符串:深入理解与高效应用
  • [ESP32:Vscode+PlatformIO]新建工程 常用配置与设置
  • tcp/ip协议讲解,tcp/ip协议理解
  • Cursor 简介:AI 如何改变编程体验
  • 什么是API端点(API endpoint)
  • 【hot100】刷题记录(10)-旋转图像
  • MVS pythonSamples 运行环境配置
  • 应用层协议——HTTP协议
  • CharacterEncoder类
  • Linux环境下的Java项目部署技巧:安装 Mysql
  • 每日一题——包含min函数的栈
  • pandas(二)读取数据
  • 【Springboot2】多环境开发简单教程
  • Spark On Yarn External Shuffle Service
  • 17.[前端开发]Day17-形变-动画-vertical-align
  • 【高等数学】贝塞尔函数
  • 构建一个研发助手Agent:提升开发效率的实践
  • ArrayBlockingQueue源码分析
  • Codeforces Round 863 (Div. 3) E. Living Sequence
  • Android --- handler详解
  • Kanass基础教程-创建项目
  • 【tiktok 国际版抖抖♬♬ __ac_signature算法】逆向分析