DeepSeek——DeepSeek模型部署实战
摘要
文章主要介绍了DeepSeek大模型的本地部署方法、使用方式以及API接入相关内容。首先指出可通过下载Ollama来部署DeepSeek-R1模型,并给出了模型不同参数版本及存储信息。接着说明了如何通过Chatbox官网下载并接入DeepSeek API,以及如何接入本地部署模型。最后提及了DeepSeek官网使用和集成工具使用相关内容。
1. DeepSeek大模型本地部署
1.1. 下载Ollama(Ollama)
点击DeepSeek-R1
的链接可以看到有关deepseek-r1的详细介绍:
1.2. 部署deepseek-r1模型
目前deepseek-r1模型大小提供了7个选择:1.5b、7b、8b、14b、32b、70b、671b。
你可以根据你的硬件情况选择,通常模型大小(参数量)越大,模型的理解和生成能力越强,但也会消耗更多的计算资源。点击Download
按钮下载符合自己平台的Ollama:
我这里选择macOS,点击下载。下载文件大小不到200M,文件名为:Ollama-darwin.zip
。解压后打开Ollama应用程序,提示:
1.3. 使用deepseek-r1模型
按照提示,打开终端,使用 Command + Space 快捷键调用 terminal
:
这里Ollama默认给出的例子是下载/运行llama3.2大模型,我们这里不使用这个llama3.2模型,直接下载/运行deepseek,参数选择最小的1.5b,在终端窗口运行下面命令:
ollama run deepseek-r1:1.5b
jingyuzhao@jingyuzhao-mac ~ % ollama run deepseek-r1:1.5b
pulling manifest
pulling manifest
pulling manifest
pulling manifest
pulling manifest
pulling manifest
pulling aabd4debf0c8... 100% ▕████████████████████████████████████████▏ 1.1 GB
pulling 369ca498f347... 100% ▕████████████████████████████████████████▏ 387 B
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████▏ 1.1 KB
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████▏ 148 B
pulling a85fe2a2e58e... 100% ▕████████████████████████████████████████▏ 487 B
verifying sha256 digest
writing manifest
success
>>> Send a message (/? for help)
这里就直接可以和DeepSeek对话了:
>>> Hi! Who are you?
<think>
</think>
Hi! I'm DeepSeek-R1, an artificial intelligence assistant created by DeepSeek. I'm at your service
and would be delighted to assist you with any inquiries or tasks you may have.
>>> 你好,你是谁?
<think>
</think>
你好!我是DeepSeek-R1,一个由深度求索公司开发的智能助手。我擅长通过思考来帮您解答复杂的数学,代码和
逻辑推理等理工类问题。 Feel free to ask me anything you'd like me to know!
>>> Send a message (/? for help)
2. DeepSeek大模型API接入
2.1. 下载Chatbox官方网站(Chatbox AI: Your AI Copilot, Best AI Client on any device, Free Download)
我这里还是Intel-based的MAC,下载的Chatbox-1.9.7.dmg
,大小100M多点,点击安装,按下面提示拖到Applications内:
2.2. Chatbox接入DeepSeek API
2.3. Chatbox接入DeepSeek本地部署模型
实际上,若选择这个你本地的DeepSeek模型。实际正确应该选择OLLAMA API,然后就可以看到我们上一步安装好的deepseek-r1:1.5b
。
配置好DeepSeek本地模型之后,就可以实现在断网情况下自由问答了,比如,此刻我正在写这篇文章,于是就问他帮我想名字:
我正在写一篇文章,手动部署DeepSeek本地模型在。请你帮我重新生成10个吸引眼球的标题供我选择。
3. DeepSeek大模型使用
3.1. DeepSeek官网使用(DeepSeek)
3.2. DeepSeek集成工具使用(https://poe.com/)
博文参考
- DeepSeek
- Ollama
- Chatbox AI: Your AI Copilot, Best AI Client on any device, Free Download
- https://poe.com/