当前位置: 首页 > article >正文

本地搭建DeepSeek R1模型 + 前端

本地搭建DeepSeek R1模型 + 前端

配置:

操作系统:windows11

CPU:i5 13600KF

GPU:英伟达4070 12GB

内存:16G DDR5

硬盘:1TB

模型安装

本文采用Ollama进行安装。Ollama安装比较简单。

官网:Ollama

安装Ollama,下载完后无脑安装即可。安装完成后执行 ollama -v 命令,出现版本则安装成功。

image-20250309215507850

根据你自己电脑的配置选择对应的模型安装。

  • 低配置硬件适配:如果你的电脑硬件配置较为基础,CPU 是老旧的双核或四核处理器,运行内存仅有 8GB 及以下,显卡为集成显卡或者独立显卡的显存不足 2GB ,那么 DeepSeek-R1-Distill-Llama-1.5B 模型是最佳选择。它对硬件资源的需求极低,能够在这样的设备上稳定运行,轻松应对日常对话、简单文本生成等基础文本处理任务,满足你的日常使用需求。
  • 中配置硬件适配:若你的电脑配置处于中等水平,配备像英特尔酷睿 i5 系列或者 AMD 锐龙 5 系列这样性能不错的 CPU,内存达到 16GB,显卡显存为 4 - 6GB ,那么 DeepSeek-R1-Distill-Llama-7B 或 DeepSeek-R1-Distill-[Qwen]-7B 模型将是你的得力助手。这类模型在中等配置的电脑上能够充分发挥潜力,运行效率较高,能够轻松处理简单代码生成、文章润色等具有一定复杂度的任务,帮助你完成更多有挑战性的工作。
  • 高配置硬件适配:对于电脑硬件配置高端的用户,拥有英特尔酷睿 i7/i9 系列或 AMD 锐龙 7/9 系列这种高性能 CPU,内存达到 32GB 及以上,显卡搭载 NVIDIA GeForce RTX 30 系列、AMD Radeon RX 6000 系列等高性能独立显卡,显存高达 8GB 及以上,此时 DeepSeek-R1-Distill-Llama-32B 甚至更高版本的模型,才是充分发挥你电脑硬件实力的不二之选。它们能够承担复杂的自然语言处理任务,如专业领域的文本深度分析、复杂代码的编写与调试等,为你带来高效且优质的使用体验。

我这里选择的deepseek-r1 7b模型。

image-20250309215235607

打开cmd小黑窗执行 ollama run deepseek-r1:7b,ollama就会自动下载模型并启动,模型越大下载时间越长,耐心等待。完成后就可以在命令行提问题了。

image-20250309215836032

前端安装

命令行用起来不是很方便,而且无法解析markdown文档,所以需要安装一个前端界面。前端我使用的是CherryStudio。

官网:Cherry Studio 官方网站 - 全能的AI助手

安装可以参照我的另一篇:一款好用的模型大模型服务桌面客户端_cherystudio-CSDN博客

  • image-20250309220223313
  • image-20250309220344137

  • 安装配置完成后就可以选择模型进行问答了。注意:本地部署的模型不需要配置秘钥。

  • image-20250309220939612

  • image-20250309221005094

到此deepseekR1模型以及前端就在你本地启动起来了,使用本地更快而且不会遇到服务繁忙的情况。快去试试吧。


http://www.kler.cn/a/578611.html

相关文章:

  • MySQL 表的字段数量和单行存储容量受存储引擎、数据类型、行结构等多因素限制
  • ORB-SLAM2源码学习(六):相机跟踪(局部地图跟踪和关键帧创建)
  • 【向量模型】 开源通用向量模型BGE (BAAI General Embedding)
  • Vue代理与Vuex模块化学习
  • 环形链表问题的探究与代码实现
  • 【论文精读】GaussReg: Fast 3D Registration with Gaussian Splatting
  • MyBatis SQL 映射文件的作用和结构
  • Java 大视界 -- Java 大数据在智能体育赛事运动员表现分析与训练优化中的应用(122)
  • 忘记dedecms后台超级管理员账号和密码的解决方案
  • crewai框架出现SSLError
  • 请谈谈 HTTP 中的安全策略,如何防范常见的Web攻击(如XSS、CSRF)?
  • 2025-03-09 学习记录--C/C++-PTA 练习11-4 字符定位(最后一次找到的字符)
  • 音视频入门基础:RTP专题(16)——RTP封装音频时,音频的有效载荷结构
  • 同为科技智能PDU在数据中心场景的应用与解决方案
  • 垂直领域大模型优化:从“通用”到“专精”——打造医疗、金融、法律领域的AI专家
  • 【RAG】文本分割的粒度
  • es-使用easy-es时如何指定索引库
  • 【Java篇】数据类型与变量:窥见程序的天地万象
  • 设计模式 一、软件设计原则
  • VSCode输入npm xxx,跳转到选择应用