当前位置: 首页 > article >正文

如何将DeepSeek部署到本地电脑

DeepSeek爆火,如何免费部署到你的电脑上?教程来了,先在你的本地电脑上安装Ollama,然后在Ollama搜索选择DeepSeek模型,即可成功在你的本地电脑上部署DeepSeek

一、安装Ollama

打开Ollama官网:https://ollama.com/ 点击“Download”,如下图:

根据你本地电脑的操作系统类型下载对应的Ollama版本,目前Ollama支持macOS、Linux和Windows主流操作系统。关于Ollama的下载和安装。

下载完成之后是一个.exe的安装包,以管理员身份打开它

点击【Install】(这里需要注意的是,安装包是直接安装在C盘的,并不支持更改路径,因此C盘的空间必须要至少大于5GB的空余空间)

接着就是等待完成

安装完成之后不会有任何提示,在任务栏上看不到任何进程

你可以在开始菜单直接找到它(这里咱们不需要打开它。)

二、选择deepseek-r1不同模型大小

点击deepseek-r1,你会发现有多个不同大小的模型版本,如1.5b、7b、8b、14b、32b、70b或671b,模型大小不同,可适配的电脑显存、显卡及内存配置也不同

三、部署AI大模型

安装完成之后需要部署模型才能运行,因此咱们需要选择一个合适的模型。

方式一:
你可以直接使用小白这里建议的模型:

版本:1.5b,适用于一般文字编辑使用(需要1.1GB空余空间)

ollama run deepseek-r1:1.5b

版本:7b,DeepSeek的第一代推理模型,性能与OpenAl-01相当,包括从基于Llama和Qwen的DeepSeek-R1中提取的六个密集模型(需要4.7GB空余空间)

ollama run deepseek-r1:7b

版本:8b,(需要4.9GB空余空间)

ollama run deepseek-r1:8b

版本:14b,(需要9GB空余空间)

ollama run deepseek-r1:14b

版本:32b,(需要20GB空余空间)

ollama run deepseek-r1:32b

版本:70b,(需要43GB空余空间)

ollama run deepseek-r1:70b

版本:671b,(需要404GB空余空间)

ollama run deepseek-r1:671b

请复制ollama****b字段,比如:

方式二:

当然,你也可以在DeepSeek官网上,你可以直接点击【model】

到达这个界面之后,点击进入到最近的【DeepSeek r1】模型

接着点击【复制】按钮图标


在Windows的【开始菜单】点击【鼠标右键】-【PowerShell(管理员)】或者【终端管理员】

(模型会直接安装在C盘,请注意C盘的可用空间!)小白这里尝试安装一下43GB的版本,复制刚刚的【ollama **** *b】命令行,粘贴到【PowerShell(管理员】运行框,然后回车

就会出现下载等待:

下载结束之后就有一小会儿出现【verifying sha256 digest】,是在检查完整性之类的东西,请耐心等待(模型越大等待时间越长)

完成之后就可以开始玩耍了!部署完成之后会有【Success】提示

模型越大,占用的内存越大(请自行斟酌哦!)

且命令提示符输入的位置会变成【>> send a message for help】的提示

这时候就是进入与人工智能对话的场景了。

玩起来!!!
你可以在框里输入中文或者英文(运行的时候基本上会把内存和CPU干满,除非你的配置真的很高。自行斟酌哦!)

这个是42GB的模型出来的内容:

AI写了这么多,我就不复述了!

下面这个是4.7GB的模型出来的内容:

你更喜欢哪一个呢?

离线之后如何重新进入DeepSeek对话?

很火小伙伴在关闭PowerShell之后就不知道怎么重新进入了,这时候就需要按照这个教程:

首先在Windows【开始菜单】点击【鼠标右键】-打开【Windows PowerShell】或者【终端】(以下简称“终端”)

在终端里输入【ollama list】查看你安装的模型,复制一下你安装的模型的【NAME】,我这里是【deepseek-r1:7b】(如果你安装了多个模型,这里就相当于选择不同的模型进行对话了)

ollama list


接着输入【ollama run 模型名称(NAME)】,我这里是【ollama run deepseek-r1:70b】

ollama run 模型名称(NAME)

我这里是

ollama run deepseek-r1:7b


就能进入到DeepSeek的对话框了!

如果想退出模型,在终端输入/bye即可。

本文关于DeepSeek的教程,是基于Ollama这个大模型运行框架,更多关于Ollama的命令操作,请参考上网搜索Ollama终端指令,本文不多赘述。


http://www.kler.cn/a/525029.html

相关文章:

  • python:斐索实验(Fizeau experiment)
  • 计算机网络 IP 网络层 2 (重置版)
  • Java中的泛型
  • 深入理解Pytest中的Setup和Teardown
  • C语言初阶力扣刷题——349. 两个数组的交集【难度:简单】
  • [MySQL]事务的理论、属性与常见操作
  • Shell特殊状态变量以及常用内置变量总结
  • Kmesh v1.0 正式发布
  • 用JavaScript实现观察者模式
  • 小白爬虫冒险之反“反爬”:无限debugger、禁用开发者工具、干扰控制台...(持续更新)
  • 【16届蓝桥杯寒假刷题营】第2期DAY4
  • 安卓逆向之脱壳-认识一下动态加载 双亲委派(二)
  • 洛谷P3383 【模板】线性筛素数
  • 在Visual Studio Code自带的按键编译无法使用该怎么办
  • JavaScript_01
  • Baklib如何重新定义企业知识管理提升组织效率与创新力
  • MyBatis 缓存机制详解
  • Java学习教程,从入门到精通,JDBC 删除表语法及案例(103)
  • 基于Langchain-Chatchat + ChatGLM 本地部署知识库
  • 240. 搜索二维矩阵||
  • 【JavaEE】Spring(6):Mybatis(下)
  • docker安装emqx
  • 11JavaWeb——SpringBootWeb案例02
  • S4 HANA明确Tax Base Amount是否考虑现金折扣(OB69)
  • 蓝桥杯python语言基础(4)——基础数据结构(下)
  • 洛谷P11464 支配剧场