当前位置: 首页 > article >正文

【DeepSeek】Mac m1电脑部署DeepSeek

一、电脑配置

个人电脑配置
在这里插入图片描述

二、安装ollama

简介:Ollama 是一个强大的开源框架,是一个为本地运行大型语言模型而设计的工具,它帮助用户快速在本地运行大模型,通过简单的安装指令,可以让用户执行一条命令就在本地运行开源大型语言模型。
在ollama官网,根据自己电脑的类型选择对应的下载安装程序,比如我这里选择 macos:
在这里插入图片描述
下载成功后,直接安装。
如何判断是否安装成功?
打开一个命令行终端,输入命令:ollama -v,显示版本信息,表示安装成功。
在这里插入图片描述

三、选择合适的模型

点击ollama–>models选项,可以查看支持运行的模型。
在这里插入图片描述
deepseek r1 有多种参数,通常我们macos 选择7b,8b参数即可,参数越大对显卡和内存要求越高,如果你是3090显卡,4090 显卡,可以选择32b,70b,参数越大,效果越好。当然磁盘占用也越大。

选择对应的蒸馏模型,按照下面的命令复制到ollama控制台

DeepSeek-R1-Distill-Qwen-1.5B
ollama run deepseek-r1:1.5b

DeepSeek-R1-Distill-Qwen-7B
ollama run deepseek-r1:7b

DeepSeek-R1-Distill-Llama-8B
ollama run deepseek-r1:8b

DeepSeek-R1-Distill-Qwen-14B
ollama run deepseek-r1:14b

DeepSeek-R1-Distill-Qwen-32B
ollama run deepseek-r1:32b

DeepSeek-R1-Distill-Llama-70B
ollama run deepseek-r1:70b

四、安装并运行

安装并运行对应的蒸馏模型,命令行执行:
ollama run deepseek-r1:8b

安装成功后,在控制台直接输入问题,即可得到回复:
在这里插入图片描述
命令行如何退出大模型对话?
输入:/bye


http://www.kler.cn/a/553753.html

相关文章:

  • 校园网架构设计与部署实战
  • Linux学习笔记之进程切换
  • 微服务SpringCloudAlibaba组件Spring Cloud Gateway网关教程【详解gatway网关以及各种过滤器配置使用,附有示例+代码】
  • 一个简单的ubuntu/开发板初始化脚本
  • HTML/CSS中并集选择器
  • open-webui安装
  • 基于Java+MySQL实现的院的实验课选课及实验室管理系统
  • 鸿蒙NEXT开发-应用状态
  • IDEA CodeGPT 使用教程
  • docker知识
  • ESP32 在IDF_V5.3.1版本下实现AP无线热点模式!(带WIFI事件处理)
  • 深度学习之图像分类(一)
  • 超详细|25保研时间线及规划
  • npm安装依赖(npm install)时遇到认证错误的解决方案
  • Docker 在微服务架构中的应用(一)
  • ok113i平台——多媒体播放器适配
  • 青少年编程与数学 02-009 Django 5 Web 编程 18课题、静态文件
  • Vue 基础二(进阶使用)
  • Zotero PDF Translate插件配置百度翻译api
  • 芯麦GC4344立体声数模转换芯片深度解析:高精度音频与动态采样率技术