当前位置: 首页 > article >正文

本地化部署DeepSeek-R1

本文环境搭建均基于免费工具,感谢开源。

一、下载工具并安装

1. Ollama:最新版本 0.5.7

官网在这里 

https://ollama.com/download

但是下载太慢,得换个思路

https://sourceforge.net/projects/ollama.mirror/

2.Chatbox

https://chatboxai.app/zh

二、安装配置Ollama

安装一路next,默认是装到C盘

(1)如果C盘空间吃紧,需要新建环境变量OLLAMA_MODELS

windows下更改模型默认下载路径:

默认路径在C:Users<username>.ollama/models

模型一般占用都比较大,换到其他盘去

高级系统设置-环境变量-新建OLLAMA_MODELS,重启Ollama生效。

注:已经下载的模型文件直接搬到新的路径下就可以使用,不需要再下载。

文件在models/blobs中

(2)在Ollama主页下载DeepSeek模型

deepseek-r1

根据自己的硬件设备选择不同的版本下载

我的是t490s的本子,没有独显,试了下14b勉强可以跑。

ollama pull deepseek-r1:14b

(3)配置环境变量 OLLAMA_HOST、OLLAMA_ORIGINS

默认情况下,Ollama服务仅在本地运行,不对外提供服务。

如果要提供对外服务,需要新增两个环境变量

保存设置,重启Ollama服务。

小结下Ollama环境变量的作用:

三、安装配置Chatbox

1. 一路next,安装完成。

2.配置:

(1)选择“模型”-“Ollama API”-“deepseek-r1:14b”

选择“显示”-“语言”-“简体中文”。

注: 如果“模型”下拉菜单为空,重启Ollama服务,重新打开Chatbox再试一下。

四、本地运行

本地化运行因为硬件比较拉跨,速度有点慢,其他体验完美。

DeepSeek确实对中文的理解更深更细腻,推荐大家使用。


http://www.kler.cn/a/527516.html

相关文章:

  • 计算机网络一点事(21)
  • 【AI】DeepSeek 概念/影响/使用/部署
  • java的Stream流
  • 缩位求和——蓝桥杯
  • 玩转大语言模型——配置图数据库Neo4j(含apoc插件)并导入GraphRAG生成的知识图谱
  • QT简单实现验证码(字符)
  • jdk8项目升级到jdk17——岁月云实战
  • 从0开始使用面对对象C语言搭建一个基于OLED的图形显示框架(基础组件实现)
  • 51单片机开发——I2C通信接口
  • Keepalived高可用集群企业应用实例二
  • Qt事件处理:理解处理器、过滤器与事件系统
  • 【机器学习】Google开源大模型Gemma2:原理、微调训练及推理部署实战
  • R 字符串:深入理解与高效应用
  • 推荐一款好用的翻译类浏览器扩展插件
  • 11.QT控件:输入类控件
  • 实验八 JSP访问数据库
  • 【llm对话系统】大模型 Llama 源码分析之并行训练方案
  • 各种CNN 卷积特征图可视化理解方法(链接)
  • 网站标签页图标如何添加
  • SpringBoot 数据访问(MyBatis)
  • Java实战:图像浏览器
  • (三)QT——信号与槽机制——计数器程序
  • 51单片机CLD1602显示万年历+闹钟+农历+整点报时
  • 【B站保姆级视频教程:Jetson配置YOLOv11环境(五)Miniconda安装与配置】
  • 大厂面试题备份20250130
  • 【deepseek-r1】ollama如何更改安装位置以及自定义模型下载位置