当前位置: 首页 > article >正文

DS本地化部署教程

在刚刚过去的春节期间,DS凭借其卓越的功能表现迅速走红,引发了广泛关注。实际上,在新模型发布的初期,我就已经注意到了这一现象,并且非常希望能够与大家分享我的看法和体验。

为了确保用户能够在网络不稳定或断网的情况下依然能够正常使用DS,同时保护用户的隐私数据不被泄露,在开年之际推出这篇手把手的教学文章,详细指导大家如何进行DS的本地部署。通过本地部署,用户不仅可以在离线环境中使用DS,还能有效避免隐私数据在云端传输过程中可能面临的泄露风险,从而更加安全、稳定地享受DS带来的强大功能。

电脑配置要求

配置越高,运行效果越好。我的显卡是4070TI,可以运行 7b 的模型,运行速度和官网差不多。大家可以参考一下这个配置标准,提前检查自己的电脑是否满足。如果配置过低,可能会出现运行卡顿甚至无法运行的情况。​

配置要求一览表

本地化部署详细教程

安装 Ollama

1.打开浏览器,登录官网(见文末),按照页面提示顺序下载 Ollama。

ollama -v

2.下载完成后,直接双击安装程序进行安装,当任务栏出现一个小羊的图标,说明安装成功。

3.安装好后,按下快捷键 win+R,在弹出的命令框中

4.输入 cmd,然后点击确定,打开命令提示符窗口。

5.在光标后面输入 ollama -v(注意中间有空格),然后回车。如果显示 ollama 版本号,比如 0.5.7,那就证明 ollama 安装成功了。

安装 DS 模型(见文末)

1.根据电脑配置选择合适的参数规模(例如,7b代表70亿参数,14b代表140亿参数)。参数规模越大,模型效果理论上越好,但对电脑配置的要求也越高。选择合适的参数规模后,复制对应的下载命令。

2.返回命令提示符窗口,将复制的ollama run DS-r1命令粘贴到光标后,然后按回车键,等待模型下载完成。下载完成后,即可在命令窗口直接向DeepSeek提问。不过,命令窗口界面不够美观,且复制内容不够方便,因此建议继续进行下一步设置,切换到更友好的界面进行对话。

配置 ChatboxAI

1.为了方便对话,我们可以下载一个chatboxai (见文末)。

2.在ChatboxAI的设置中选择Ollama,并选择DS-R1模型:

点击“保存”按钮后,即可通过ChatboxAI与DS进行对话。

通过以上步骤,用户可以在本地环境中部署并使用DS,不仅能够有效避免网络延迟和服务器繁忙的问题,还能在离线状态下使用该模型,同时确保数据的隐私和安全。希望这些信息能够帮助大家更好地利用DS,提升使用体验。

「DeepSeek-R1」
链接:https://pan.quark.cn/s/2f7935f5beb2


http://www.kler.cn/a/534742.html

相关文章:

  • 【创建模式-单例模式(Singleton Pattern)】
  • 尝试把clang-tidy集成到AWTK项目
  • 北大AGI与具身智能评估新范式!Tong测试:基于动态具身物理和社会互动的评估标准
  • Vue Dom截图插件,截图转Base64 html2canvas
  • 蓝桥杯例题七
  • C++游戏开发实战:从引擎架构到物理碰撞
  • 谈谈芯片设计企业中的产品项目管理
  • 【漫画机器学习】083.安斯库姆四重奏(Anscombe‘s quartet)
  • 链式结构二叉树(递归暴力美学)
  • C06S01-Docker架设
  • 前端知识速记:重绘和回流
  • 自然世界的数字原理
  • 文件上传到腾讯云存储、签名及设置过期时间
  • 算法日记13:SC41树状数组(区间修改)
  • C语言程序设计P7【结构体和共用体】——定义和使用结构体、使用结构体数组、结构体指针、链表、共用体、枚举类型
  • c语言对应汇编写法(以中微单片机举例)
  • java时间相关类
  • 微信小程序~电器维修系统小程序
  • 【redis】数据类型之list
  • 深入解析色度二次采样 —— 4:4:4、4:2:2 和 4:2:0 的技术分析
  • API接口开发分享一些在实际开发中获取京东商品价格信息的方法
  • 【LeetCode】day15 142.环形链表II
  • 微服务知识——微服务拆分规范
  • 全能型免费内网穿透工具,全面支持macOS、Windows、Linux及Docker系统
  • 深入了解 MySQL:从基础到高级特性
  • 【实用技能】如何使用 DHTMLX JavaScript 组件加速初创企业发展?