高端入门：Ollama 本地高效部署DeepSeek模型深度搜索解决方案

目录

一、Ollama 介绍

二、Ollama下载 

2.1 官网下载

2.2 GitHub下载

三、模型库

四、Ollmal 使用

4.1 模型运行（下载）

4.2 模型提问

五、Ollama 常用命令

相关推荐

一、Ollama 介绍

        Ollama是一个专为在本地机器上便捷部署和运行大型语言模型（LLM）而设计的开源框架。以下是对Ollama的详细解释：

• 简化部署：Ollama旨在简化在Docker容器中部署大型语言模型的过程，使得非专业用户也能方便地管理和运行这些复杂的模型。
• 轻量级与可扩展：作为轻量级框架，Ollama保持了较小的资源占用，同时具备良好的可扩展性，允许用户根据需要调整配置以适应不同规模的项目和硬件条件。
• 跨平台支持：Ollama提供针对macOS、Windows（预览版）、Linux以及Docker的安装指南，确保用户能在多种操作系统环境下顺利部署和使用。

二、Ollama下载 

2.1 官网下载

        Ollama 支持多平台部署，可以在官网，选择适合的平台进行下载，如下图：

2.2 GitHub下载

GitHub - ollama/ollama: Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models.Get up and running with Llama 3.3, DeepSeek-R1, Phi-4, Gemma 2, and other large language models. - ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollama

三、模型库

        Ollama 支持在 ollama.com/search 上获取的模型列表，比如最近比较火的 deepseek-r1：

        不同版本的模型所需内存大小也有所不同。例如在Ollama中部署DeepSeek-R1的不同版本（1.5b、7b、8b、14b、32b、70b、671b）所需的内存大小：

        根据自身需要选择版本，如下是我之前下的几个模型的版本和所占内存大小：

四、Ollmal 使用

4.1 模型运行（下载）

        打开命令终端，输入指令 ollama run xxxx(模型名称，如deepseek-r1)，若是首次运行某个模型，Ollma 会先下载对应的模型文件，然后运行模型。        

//下载7b版本
ollama run deepseek-r1

//下载14b版本
ollama run deepseek-r1:14b

        可以根据不同命令下载不同版本，怎么获取命令？你可以先选中模型的版本，ollama 会根据不同的版本生成命令，如下图所示：

4.2 模型提问

五、Ollama 常用命令

• ollama serve:该命令用于启动Ollama服务器(在不运行桌面应用程序的情况下启动 ollama;)，以便运行模型和处理请求。首次启动可能会生成ssh私钥文件，并提示服务端口状态。
• ollama start：启动服务。
• ollama list或ollama ls：列出本地所有可用的模型。
• ollama ps：显示当前正在运行的模型列表。
• ollama show [模型名称]：查看特定模型的详细信息，如模型名称、版本等。
• ollama pull [模型名称]：从模型注册表中拉取一个模型到本地使用。此命令也可以用于更新本地模型，只会拉取差异部分。
• ollama run [模型名称]。运行一个已安装的模型，执行某些任务。可以根据需要指定模型的参数和配置。
• ollama create [模型路径]：使用包含模型信息的 [模型路径]来创建一个新模型。
• ollama push [模型名称]：将本地模型推送到模型注册表中，以便他人或其他系统使用。
• ollama cp [原模型名称] [新模型名称]：复制一个模型到另一个位置或给定名称的地方。
• ollama rm [模型名称]：删除一个已安装的模型。
• ollama -v或ollama --version：显示当前Ollama工具的版本信息。

相关推荐

Download Ollama on macOSDownload Ollama for macOShttps://ollama.com/downloadhttps://ollama.com/downloadhttps://ollama.com/downloadhttps://ollama.com/downloadhttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamahttps://github.com/ollama/ollamaNeo4j 图数据库安装与操作指南(以mac为例)_neo4j安装-CSDN博客文章浏览阅读1w次，点赞78次，收藏82次。本文介绍了Neo4j图数据库的安装、配置、启动以及基本操作方法。首先，需要满足Java环境的安装要求，并可选择使用Homebrew进行安装。然后，从官方网站下载Neo4j并解压，或通过Homebrew进行安装。配置Neo4j时，可设置环境变量以简化命令操作。启动Neo4j后，可通过Cypher查询语言进行节点、关系的创建、修改、匹配和删除等操作。本文还介绍了Neo4j的其他常用命令，如查询版本、服务状态、重启、停止和卸载等。_neo4j安装https://shuaici.blog.csdn.net/article/details/144115514https://shuaici.blog.csdn.net/article/details/144115514https://shuaici.blog.csdn.net/article/details/144115514https://shuaici.blog.csdn.net/article/details/144115514