当前位置: 首页 > article >正文

DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具

🌈 个人主页:Zfox_
🔥 系列专栏:Linux

目录

  • 一:🔥 Ollama
    • 🦋 下载 Ollama
    • 🦋 选择模型
    • 🦋 运行模型
    • 🦋 使用 && 测试
  • 二:🔥 Chatbox
    • 🦋 创建你的专属 GPTs
  • 三:🔥 共勉

一:🔥 Ollama

🦋 下载 Ollama

🧑‍💻 https://ollama.com/

  • Ollama 是一个用于管理和部署机器学习模型的工具。
  • 目前 Ollama 支持 macOS、Linux、Windows,选择相应的系统下载即可。
    在这里插入图片描述

🦁 💻 安装后运行软件,在任务栏确认在右上角出现这只 小羊驼🦙 图标
在这里插入图片描述

🦋 选择模型

🧑‍💻 点击Search models 搜索框,第一条就是 deepseek-r1 模型。

在这里插入图片描述
这里我们发现了多个不同大小的模型,文件大小适配不同的设备

DeepSeek R1提供多个版本,参数量越大,模型通常越强大,但也需要更多的计算资源。

比如1.5B代表有15亿个参数。

在这里插入图片描述
🎁 借助网上大佬们整理的表格供大家参考,来确认你的电脑可以运行哪个模型:
在这里插入图片描述

🦋 运行模型

运行模型很简单:确定模型后,复制这条指令到终端里
加粗样式
💻 当进度条跑满时,恭喜🎉,你的电脑已经拥有了顶级的推理能力

🦋 使用 && 测试

📚 这里我已经提前下好了,使用 ollama 提供的终端指令 ollama list 可以看我们电脑上已经部署了哪些模型,然后使用 ollama run 对应的模型 就可以了

在这里插入图片描述

输入 /bye即可退出

在这里插入图片描述

📚 ollama 命令查看

admin@admindeMacBook-Pro ~ % ollama
Usage:
  ollama [flags]
  ollama [command]

Available Commands:
  serve       Start ollama
  create      Create a model from a Modelfile
  show        Show information for a model
  run         Run a model
  stop        Stop a running model
  pull        Pull a model from a registry
  push        Push a model to a registry
  list        List models
  ps          List running models
  cp          Copy a model
  rm          Remove a model
  help        Help about any command

Flags:
  -h, --help      help for ollama
  -v, --version   Show version information

Use "ollama [command] --help" for more information about a command.

🧑‍💻 虽然这里终端已经可以使用了,但是还是不太方便。

  • 这里就有人要问博主了,你推荐的模型确实挺不错的,但是还是太吃操作了,有没有更加方便的使用方式呢?
  • 有的兄弟有的,像更方便的使用方式那么就是 Chatbox

二:🔥 Chatbox

🧑‍💻 浏览器搜索 Chatbox 并下载客户端或者网页版都可以

  1. 设置语言为中文并保存
    在这里插入图片描述
  2. 点击设置选择模型为 OLLAMA API
    在这里插入图片描述
    为了确保可以连接到本地服务,大家按照提供的教程设置一下,不同的操作系统设置不太一样,然后选择 R1模型并保存
  • 连接到本地服务教程跳转
    在这里插入图片描述
    🦁 现在你就可以在 浏览器/客户端 上流畅的使用 R1 了。

🦋 创建你的专属 GPTs

🧑‍💻 点击我的搭档,创建搭档,给ai角色设定人格,你也可以选择现有的搭档,一个资深的行业专家就出现了。
在这里插入图片描述

三:🔥 共勉

😋 以上就是我对 DeepSeek R1本地化部署 Ollama + Chatbox 打造最强 AI 工具 的理解,觉得这篇博客对你有帮助的,可以点赞收藏关注支持一波~ 😉
在这里插入图片描述


http://www.kler.cn/a/529561.html

相关文章:

  • Ollama+OpenWebUI部署本地大模型
  • FastAPI + GraphQL + SQLAlchemy 实现博客系统
  • C++模板初了解
  • Ubuntu 下 nginx-1.24.0 源码分析 - ngx_strerror_init()函数
  • LeetCode:494.目标和
  • ASP.NET Core 中间件
  • 【 软件测试项目实战】 以淘宝网购物车管理功能为例
  • 扩散模型(二)
  • kamailio-ACC、ACC_JSON 和 ACC_RADIUS 的区别
  • android java系统弹窗的基础模板
  • Clion开发STM32时使用stlink下载程序与Debug调试
  • MySQL基础学习总结(二)_select round(3
  • 【Rust自学】19.2. 高级trait:关联类型、默认泛型参数和运算符重载、完全限定语法、supertrait和newtype
  • MacBook Pro(M1芯片)Qt环境配置
  • 【工欲善其事】利用 DeepSeek 实现复杂 Git 操作:从原项目剥离出子版本树并同步到新的代码库中
  • 9 点结构模块(point.rs)
  • 面经——C语言——指针大小,内存分配,野指针,大小端
  • 【LeetCode: 598. 区间加法 II + 脑筋急转弯】
  • 我的Go+语言初体验——环境搭建并用命令行和 VScode 输出 “Hello World”_gop windows helloworld
  • 一些常用的HTML结构
  • 使用 EXISTS 解决 SQL 中 IN 查询数量过多的问题
  • C++ 哈希封装详解
  • E. Money Buys Happiness
  • UE5 蓝图计划 - Day 2-3:执行流与事件
  • 大模型能力评估数据集都有哪些?
  • 贪吃蛇实现