当前位置: 首页 > article >正文

白嫖DeepSeek:一分钟完成本地部署AI

在这里插入图片描述

1. 必备软件

  1. LM-Studio 大模型客户端
  2. DeepSeek-R1 模型文件

LM-Studio 是一个支持众多流行模型的AI客户端,DeepSeek是最新流行的堪比GPT-o1的开源AI大模型。

2. 下载软件和模型文件

2.1 下载LM-Studio

在这里插入图片描述

官方网址:https://lmstudio.ai

打开官网,直接下载自己系统对应的版本,然后安装。

2.2 下载模型文件

在这里插入图片描述

官方网址:https://modelscope.cn/models

打开网址,探索deepseek-r1然后选择文件名带有gguf的大模型,进入模型文件后,根据自己的显卡配置,选择合适的量化版本下载。

如果不知道怎么选择,推荐Q4量化版本,测试效果,如果系统压力过大,再选择小一点的量化版本。

3. 配置模型文件

在这里插入图片描述
创建模型文件存放目录,并把模型文件复制到其中如:

D:\models\models\deepseek-r1-7b-q4\xxx.gguf 这里的xxx.gguf表示下载的模型文件,接下来打开lm-studio,选择【我的模型】也就是左边像文件夹一样的按钮,然后修改模型目录,以上面的模型目录为例,设置的目录应该是:D:\models 这样才能被lm-studio正确识别模型路径。

4. 开始白嫖

切换回聊天界面,就可以开始自由自在地使用离线AI,体验国产之光 DeepSeek 的魅力了。
在这里插入图片描述

5. 结语

由于LM-Studio自带下载模型功能,但是需要使用魔法才能用自带的功能去下载模型,所以这个对大多数用户行不通,所以选择了手动去指定的网站下载模型文件。

modelscope.cn 是阿里旗下的一个模型社区,国内可以正常访问并下载模型文件,速度也是非常快,值得收藏。

最后选择离线版AI是因为在线版本虽然价格公道,但是还是有不少限制,尤其是话题上的限制,选择离线搭建,就不会有话题上的限制了,而且是完全免费的。


http://www.kler.cn/a/526657.html

相关文章:

  • Leetcode 45. 跳跃游戏 II
  • 【Block总结】PConv,部分卷积|即插即用
  • Redis学习之哨兵二
  • .NET MAUI 入门学习指南
  • SQL注入漏洞之高阶手法 宽字节注入以及编码解释 以及堆叠注入原理说明
  • 【后端】Flask
  • Linux工具使用
  • Golang 并发机制-2:Golang Goroutine 和竞争条件
  • 【RocketMQ 存储】- broker 端存储单条消息的逻辑
  • 算法随笔_31:移动零
  • DeepSeek-R1 模型及GRPO算法学习
  • 浅谈网络 | 容器网络之Flannel
  • 21.3-启动流程、编码风格(了解) 第21章-FreeRTOS项目实战--基础知识之新建任务、启动流程、编码风格、系统配置 文件组成和编码风格(了解)
  • 雅思写作(支持句)
  • 告别重启!Vue CLI 动态代理配置实战:实现热更新与灵活配置
  • Redis实战(黑马点评)——redis存储地理信息、位图、HyperLogLog 用法
  • 【视频+图文详解】HTML基础1-html和css介绍、上网原理
  • 从零开始学习电池SOC算法
  • MySQL知识点总结(十五)
  • Deep Seek R1本地化部署
  • 如何解决Unit sshd.service could not be found
  • Vue.js组件开发-实现全屏背景图片滑动切换特效
  • 自动备案批量查询脚本
  • 系统思考—蝴蝶效应
  • AngularJS 模块
  • 【电工基础】低压电器元件,低压断路器(空开QF),接触器(KM)