如何将DeepSeek部署到本地电脑
DeepSeek爆火,如何免费部署到你的电脑上?教程来了,先在你的本地电脑上安装Ollama,然后在Ollama搜索选择DeepSeek模型,即可成功在你的本地电脑上部署DeepSeek
一、安装Ollama
打开Ollama官网:https://ollama.com/ 点击“Download”,如下图:
根据你本地电脑的操作系统类型下载对应的Ollama版本,目前Ollama支持macOS、Linux和Windows主流操作系统。关于Ollama的下载和安装。
下载完成之后是一个.exe的安装包,以管理员身份打开它
点击【Install】(这里需要注意的是,安装包是直接安装在C盘的,并不支持更改路径,因此C盘的空间必须要至少大于5GB的空余空间)
接着就是等待完成
安装完成之后不会有任何提示,在任务栏上看不到任何进程
你可以在开始菜单直接找到它(这里咱们不需要打开它。)
二、选择deepseek-r1不同模型大小
点击deepseek-r1,你会发现有多个不同大小的模型版本,如1.5b、7b、8b、14b、32b、70b或671b,模型大小不同,可适配的电脑显存、显卡及内存配置也不同
三、部署AI大模型
安装完成之后需要部署模型才能运行,因此咱们需要选择一个合适的模型。
方式一:
你可以直接使用小白这里建议的模型:
版本:1.5b,适用于一般文字编辑使用(需要1.1GB空余空间)
ollama run deepseek-r1:1.5b
版本:7b,DeepSeek的第一代推理模型,性能与OpenAl-01相当,包括从基于Llama和Qwen的DeepSeek-R1中提取的六个密集模型(需要4.7GB空余空间)
ollama run deepseek-r1:7b
版本:8b,(需要4.9GB空余空间)
ollama run deepseek-r1:8b
版本:14b,(需要9GB空余空间)
ollama run deepseek-r1:14b
版本:32b,(需要20GB空余空间)
ollama run deepseek-r1:32b
版本:70b,(需要43GB空余空间)
ollama run deepseek-r1:70b
版本:671b,(需要404GB空余空间)
ollama run deepseek-r1:671b
请复制ollama****b字段,比如:
方式二:
当然,你也可以在DeepSeek官网上,你可以直接点击【model】
到达这个界面之后,点击进入到最近的【DeepSeek r1】模型
接着点击【复制】按钮图标
在Windows的【开始菜单】点击【鼠标右键】-【PowerShell(管理员)】或者【终端管理员】
(模型会直接安装在C盘,请注意C盘的可用空间!)小白这里尝试安装一下43GB的版本,复制刚刚的【ollama **** *b】命令行,粘贴到【PowerShell(管理员】运行框,然后回车
就会出现下载等待:
下载结束之后就有一小会儿出现【verifying sha256 digest】,是在检查完整性之类的东西,请耐心等待(模型越大等待时间越长)
完成之后就可以开始玩耍了!部署完成之后会有【Success】提示
模型越大,占用的内存越大(请自行斟酌哦!)
且命令提示符输入的位置会变成【>> send a message for help】的提示
这时候就是进入与人工智能对话的场景了。
玩起来!!!
你可以在框里输入中文或者英文(运行的时候基本上会把内存和CPU干满,除非你的配置真的很高。自行斟酌哦!)
这个是42GB的模型出来的内容:
AI写了这么多,我就不复述了!
下面这个是4.7GB的模型出来的内容:
你更喜欢哪一个呢?
离线之后如何重新进入DeepSeek对话?
很火小伙伴在关闭PowerShell之后就不知道怎么重新进入了,这时候就需要按照这个教程:
首先在Windows【开始菜单】点击【鼠标右键】-打开【Windows PowerShell】或者【终端】(以下简称“终端”)
在终端里输入【ollama list】查看你安装的模型,复制一下你安装的模型的【NAME】,我这里是【deepseek-r1:7b】(如果你安装了多个模型,这里就相当于选择不同的模型进行对话了)
ollama list
接着输入【ollama run 模型名称(NAME)】,我这里是【ollama run deepseek-r1:70b】
ollama run 模型名称(NAME)
我这里是
ollama run deepseek-r1:7b
就能进入到DeepSeek的对话框了!
如果想退出模型,在终端输入/bye即可。
本文关于DeepSeek的教程,是基于Ollama这个大模型运行框架,更多关于Ollama的命令操作,请参考上网搜索Ollama终端指令,本文不多赘述。