当前位置: 首页 > article >正文

【清晰教程】本地部署DeepSeek-r1模型

【清晰教程】通过Docker为本地DeepSeek-r1部署WebUI界面-CSDN博客

目录

Ollama

安装Ollama

DeepSeek-r1模型

安装DeepSeek-r1模型


Ollama

Ollama 是一个开源工具,专注于简化大型语言模型(LLMs)的本地部署和管理。它允许用户在本地计算机上运行各种 AI 大模型(如 Llama、DeepSeek、Mistral 等),而无需依赖云服务。

Ollama 支持多种操作系统,包括 macOS、Linux 和 Windows。安装方式因系统而异,例如在 macOS 上可以通过 Homebrew 安装。基于Ollama,用户可以通过命令行工具或 Web 界面调用模型。能够实现本地部署、模型管理、API支持等功能。

  • 本地部署:支持在本地计算机上运行大型语言模型,确保数据隐私和低延迟。

  • 模型管理:轻松下载、更新和删除模型。

  • 跨平台支持:兼容 macOS、Linux 和 Windows。

  • API 支持:提供 RESTful API,方便与其他应用程序集成。

  • 社区驱动:开源项目,拥有活跃的社区支持。

安装Ollama

访问Ollama官网的下载页面

Download Ollama on Windowsicon-default.png?t=O83Ahttps://ollama.com/download

选择适配操作系统的客户端,单击下载

如下载速度偏慢可考虑科学上网

​下载完成后,双击打开OllamaSetup

点击Install安装

Ollama默认安装在C盘,需要2G以上存储空间

安装完成后,通过命令行检查Ollama的安装情况

​也可通过Win+R,在运行框中键入cmd进入命令行 

在命令行中键入ollama,显示以下信息即为安装成功

ollama

安装完成后,Ollama 会在后台自动运行,默认端口是 11434

DeepSeek-r1模型

 访问Ollama官网的模型页面

Ollamaicon-default.png?t=O83Ahttps://ollama.com/search

选择所需模型,这里选用DeepSeek-r1

在DeepSeek-r1的详细页面包含各种量级的模型以及对应的模型下载命令:

 这里作为演示,选用最小的1.5b-DeepSeek-r1

 下载命令为

ollama run deepseek-r1:1.5b

安装DeepSeek-r1模型

复制对应模型的下载命令

ollama run deepseek-r1:1.5b

进入命令行

​也可通过Win+R,在运行框中键入cmd进入命令行 

键入对应模型的下载命令

下载完成后即可直接使用模型进行交互

至此便已经完成DeepSeek-r1的本地部署。如需GUI界面,可通过Docker部署适配的WebUI。【清晰教程】通过Docker为本地DeepSeek-r1部署WebUI界面-CSDN博客


http://www.kler.cn/a/545299.html

相关文章:

  • C语言插入排序之直接插入排序
  • 【网络安全 | 漏洞挖掘】价值3133美元的Google IDOR
  • VS Code 通知中一直显示“Reactivating terminals...”的问题解决
  • 解决 paddle ocr 遇到 CXXABI_1.3.13 not found 的问题
  • JAVA DDD设计模式:用策略模式干掉满屏if-else
  • 吉祥汽车泰国首发,用 Unity 实现行业首创全 3D 座舱虚拟世界
  • 【深度学习】计算机视觉(CV)-目标检测-SSD(Single Shot MultiBox Detector)—— 单次检测多框检测器
  • 了解卷积神经网络(Convolutional Neural Network,CNN)
  • React组件重新渲染机制
  • App UI自动化--Appium学习--第二篇
  • 【Elasticsearch】标准化器(Normalizers)
  • Excel文件的读取
  • 【工业场景】用YOLOv8实现火灾识别
  • Windows软件自动化利器:pywinauto python
  • python 大数据的优势
  • vscode插件Remote - SSH使用教程
  • postman登录cookie设置
  • 什么是HTTP Error 429以及如何修复
  • 19.4.9 数据库方式操作Excel
  • 2025 年 1 月区块链游戏研报:市场指标下滑,平台竞争加剧