当前位置: 首页 > article >正文

DeepSeek——DeepSeek模型部署实战

摘要

文章主要介绍了DeepSeek大模型的本地部署方法、使用方式以及API接入相关内容。首先指出可通过下载Ollama来部署DeepSeek-R1模型,并给出了模型不同参数版本及存储信息。接着说明了如何通过Chatbox官网下载并接入DeepSeek API,以及如何接入本地部署模型。最后提及了DeepSeek官网使用和集成工具使用相关内容。

1. DeepSeek大模型本地部署

1.1. 下载Ollama(Ollama)

点击DeepSeek-R1的链接可以看到有关deepseek-r1的详细介绍:

1.2. 部署deepseek-r1模型

目前deepseek-r1模型大小提供了7个选择:1.5b、7b、8b、14b、32b、70b、671b。

你可以根据你的硬件情况选择,通常模型大小(参数量)越大,模型的理解和生成能力越强,但也会消耗更多的计算资源。点击Download按钮下载符合自己平台的Ollama:

我这里选择macOS,点击下载。下载文件大小不到200M,文件名为:Ollama-darwin.zip。解压后打开Ollama应用程序,提示:

1.3. 使用deepseek-r1模型

按照提示,打开终端,使用 Command + Space 快捷键调用 terminal

这里Ollama默认给出的例子是下载/运行llama3.2大模型,我们这里不使用这个llama3.2模型,直接下载/运行deepseek,参数选择最小的1.5b,在终端窗口运行下面命令:

ollama run deepseek-r1:1.5b

jingyuzhao@jingyuzhao-mac ~ % ollama run deepseek-r1:1.5b
pulling manifest 
pulling manifest 
pulling manifest 
pulling manifest 
pulling manifest 
pulling manifest 
pulling aabd4debf0c8... 100% ▕████████████████████████████████████████▏ 1.1 GB                         
pulling 369ca498f347... 100% ▕████████████████████████████████████████▏  387 B                         
pulling 6e4c38e1172f... 100% ▕████████████████████████████████████████▏ 1.1 KB                         
pulling f4d24e9138dd... 100% ▕████████████████████████████████████████▏  148 B                         
pulling a85fe2a2e58e... 100% ▕████████████████████████████████████████▏  487 B                         
verifying sha256 digest 
writing manifest 
success 
>>> Send a message (/? for help)

这里就直接可以和DeepSeek对话了:

>>> Hi! Who are you?
<think>

</think>

Hi! I'm DeepSeek-R1, an artificial intelligence assistant created by DeepSeek. I'm at your service 
and would be delighted to assist you with any inquiries or tasks you may have.

>>> 你好,你是谁?
<think>

</think>

你好!我是DeepSeek-R1,一个由深度求索公司开发的智能助手。我擅长通过思考来帮您解答复杂的数学,代码和
逻辑推理等理工类问题。 Feel free to ask me anything you'd like me to know! 

>>> Send a message (/? for help)

2. DeepSeek大模型API接入

2.1. 下载Chatbox官方网站(Chatbox AI: Your AI Copilot, Best AI Client on any device, Free Download)

我这里还是Intel-based的MAC,下载的Chatbox-1.9.7.dmg,大小100M多点,点击安装,按下面提示拖到Applications内:

2.2. Chatbox接入DeepSeek API

2.3. Chatbox接入DeepSeek本地部署模型

实际上,若选择这个你本地的DeepSeek模型。实际正确应该选择OLLAMA API,然后就可以看到我们上一步安装好的deepseek-r1:1.5b

配置好DeepSeek本地模型之后,就可以实现在断网情况下自由问答了,比如,此刻我正在写这篇文章,于是就问他帮我想名字:

我正在写一篇文章,手动部署DeepSeek本地模型在。请你帮我重新生成10个吸引眼球的标题供我选择。

3. DeepSeek大模型使用

3.1. DeepSeek官网使用(DeepSeek)

3.2. DeepSeek集成工具使用(https://poe.com/)

博文参考

  • DeepSeek
  • Ollama
  • Chatbox AI: Your AI Copilot, Best AI Client on any device, Free Download
  • https://poe.com/

http://www.kler.cn/a/538109.html

相关文章:

  • 【韩顺平linux】部分上课笔记整理
  • [RabbitMQ] RabbitMQ常见面试题
  • openAI官方prompt技巧(二)
  • android studio无痛入门
  • 镜头放大倍率和像素之间的关系
  • 四、OSG学习笔记-基础图元
  • 使用 OpenGL ES 加载图片并写入纹理单元
  • 推理大模型DeepSeek迅速觉醒
  • LeetCode:63. 不同路径 II(DP Java)
  • 腾讯云TI平台×DeepSeek:开启AI超强体验,解锁部署秘籍
  • Linux iftop 命令使用详解
  • 机器学习数学基础:20.方程组解的结构
  • React受控组件的核心原理与实战精要
  • 从0到1深入大数据治理:解锁数据价值的密码
  • Spring Boot 3.4 中 MockMvcTester 的新特性解析
  • 【对比测评】 .NET 应用的 Web 视图控件:DotNetBrowser 或 EO.WebBrowser
  • python实现物体轮廓提取及标注【含源码方案及演示】
  • 尚硅谷课程【笔记】——大数据之Zookeeper【二】
  • Java算法技术文章:深入解析排序、搜索与数据结构
  • mojo语言适合开发机器人控制系统么?
  • Java高级-反射动态代理
  • 网络安全视角:从地域到账号的阿里云日志审计实践
  • Spring Test 的作用与优势
  • 低代码开发是传统开发的替代,还是补充?
  • TypeScript 中的接口:定义对象的形状
  • C++ 顺序表练习