当前位置: 首页 > article >正文

Ollama+DeepSeek本地大模型部署

1、Ollama

官网:https://ollama.com/

Ollama可以干什么? 可以快速在本地部署和管理各种大语言模型,操作命令和dokcer类似。

mac安装ollama:

# 安装ollama
brew install ollama

# 启动ollama服务(默认11434端口,模型文件在 ~/.ollama)
ollama serve

windows安装ollama:

  • https://www.cnblogs.com/skystrive/p/18584237

Ollama常用命令:‌

  • 启动Ollama服务‌:ollama serve
  • 从模型文件创建模型‌:ollama create
  • 显示模型信息‌:ollama show 模型名称
  • 运行模型‌:ollama run 模型名称
  • 拉取模型‌:ollama pull 模型名称
  • 将模型推送到私服ollama push
  • 列出本地模型‌:ollama list
  • 复制模型‌:ollama cp
  • 删除模型‌:ollama rm 模型名称
  • 获取有关Ollama任何命令的帮助信息‌:ollama help

2、DeepSeek R1

打开一个新的命令行窗口,使用ollama安装DeepSeek R1模型:

ollama run deepseek-r1:1.5b

测试命令行方式对话:

3、Maxkb接入Ollama

官网:https://maxkb.cn/

MaxKB = Max Knowledge Base,是一款基于大语言模型和 RAG 的开源知识库问答系统,广泛应用于智能客服、企业内部知识库、学术研究与教育等场景。

docker方式安装:

docker run -d --name=maxkb --restart=always -p 8080:8080 -v ~/.maxkb:/var/lib/postgresql/data -v ~/.python-packages:/opt/maxkb/app/sandbox/python-packages cr2.fit2cloud.com/1panel/maxkb

浏览器访问:http://localhost:8089/ui/login

  • 用户名:admin
  • 密码:MaxKB123…


http://www.kler.cn/a/523210.html

相关文章:

  • 27.useFetch
  • 大数据Hadoop入门3
  • 面向对象编程 vs 面向过程编程
  • PostGIS笔记:PostgreSQL中表、键和索引的基础操作
  • Android View 的事件分发机制解析
  • 每日一道算法题
  • 上位机知识篇---DDSSDK
  • 【算法】记忆化搜索
  • RoboVLM——通用机器人策略的VLA设计哲学:如何选择骨干网络、如何构建VLA架构、何时添加跨本体数据
  • 网站结构优化:加速搜索引擎收录的关键
  • 【AI论文】扩散对抗后训练用于一步视频生成总结
  • 菜鸟之路Day10一一集合进阶(三)
  • 网络工程师 (6)操作系统概述
  • 浅析 CSS 中块级框,块容器框和块框
  • 2024年记 | 凛冬将至
  • 【Java-数据结构】Java 链表面试题下 “最后一公里”:解决复杂链表问题的致胜法宝
  • 快速分析LabVIEW主要特征进行判断
  • Java面试题2025-并发编程基础(多线程、锁、阻塞队列)
  • Java基于SSM框架的互助学习平台小程序【附源码、文档】
  • GPS信号捕获【时间-频率空间搜索方法】
  • 指定dpkg安装deb包时的安装路径
  • SpringBoot 使用海康 SDK 和 flv.js 显示监控画面
  • objection的简单使用
  • 一图展示汽车和航空电子领域的安全和互操作性解决方案的概览
  • https数字签名手动验签
  • PythonFlask框架