当前位置: 首页 > article >正文

轻松搭建本地大语言模型(一)Ollama安装与使用

Ollama 是一款开源的本地大语言模型运行框架,支持在 Windows、macOS 和 Linux 系统上运行,能够帮助用户轻松下载和使用各种大语言模型(例如deepseek、llama、qwen)。本文将详细介绍 Ollama 的安装步骤,帮助你快速搭建本地模型环境。

目标

  1. 在本地启动ollama
  2. 通过ollama下载大模型(deepseek、llama、qwen等)
  3. 通过命令行与大模型进行交互

一、安装Ollama

(一)Windows 系统安装

下载安装包
  • 访问 Ollama 官方网站 https://ollama.com/download,下载 Windows 安装包。

  • 安装包通常为 .exe 格式,下载完成后双击运行安装程序。

  • 安装路径默认为 C:\Program Files\Ollama

验证安装
  • 安装完成后,打开 PowerShell 或命令提示符,输入以下命令验证安装是否成功:

    ollama -v
    

    如果显示版本号(如 ollama version is 0.5.11),则表示安装成功。

(二)macOS 系统安装

一键安装
  • 打开终端,运行以下命令进行安装:

    curl https://ollama.ai/install.sh | sh
    
  • 安装完成后,运行 ollama -v 验证安装是否成功。

三、启动 Ollama 服务

安装完成后,需要启动 Ollama 服务,才能正常使用模型:

启动服务

  • 在终端或命令提示符中运行以下命令:

    ollama serve
    
  • 如果服务启动成功,将显示服务已启动的提示。

验证服务

  • 打开浏览器,访问 http://localhost:11434,如果页面正常显示,则表示服务启动成功。

四、下载并启动本地大模型

选择大模型

在该网站选择要启动的大模型https://ollama.com/library

例如,启动deepseek-r1:1.5b模型

ollama run deepseek-r1:1.5b

执行成功后即可对话

image-20250218212749045

至此,已经在本地成功启动大模型,可以通过命令行与大模型进行交互。

后面就可以通过open-webui、dify等可视化界面对接ai。

五、模型管理

(一)查看已下载模型

运行以下命令查看已下载的模型:

ollama list

(二)删除模型

如果需要删除某个模型,可以运行以下命令:

ollama rm model_name

(三)拉取模型

Ollama 提供了丰富的模型库,可以通过以下命令拉取模型:

ollama pull model_name

例如,拉取 deepseek-r1:7b模型:

ollama pull deepseek-r1:7b

其他的一些命令可以使用ollama help提示

六、总结

Ollama 提供了简单易用的安装方式,支持多种操作系统,能够帮助用户快速搭建本地大语言模型环境。通过本文的教程,你已经可以轻松安装并使用 Ollama,接下来可以尝试运行不同的模型,探索更多功能。


http://www.kler.cn/a/551956.html

相关文章:

  • 山石网科×阿里云通义灵码,开启研发“AI智造”新时代
  • 记一次Ngnix配置
  • 智能合约与区块链中的NLP应用:自动化法律文书分析与合同审查【附核心实战代码】
  • 【UE5 C++课程系列笔记】30——自动拷贝DLL及其他资源
  • vue3-03初学vue3中的配置项setup(Composition API (组合API组件中所用到的:数据、方法等,均要配置在setup中)
  • 大模型基础知识快问快答
  • 1、AI量化学习资料 - 用DEEPSEEK玩转PTrade策略开发.zip\AI量化学习资料 - 1、PTrade策略开发提示词(参考模板).md
  • 多线程编程的隐形陷阱:竞态、死锁与活锁的实战解决方案
  • ARM系统源码编译OpenCV 4.10.0(包含opencv_contrib)
  • 二十多年前的苹果电源Power Mac G4 Mdd 电源接口
  • 【Python项目】文本相似度计算系统
  • Android 通过 ADB 查看应用运行日志
  • ESP32 ESP-IDF TFT-LCD(ST7735 128x160)自定义组件驱动显示
  • 海康威视NVR DS-7816N-SN固件升级指南:安全、高效、无忧
  • 以下是一个使用 HTML、CSS 和 JavaScript 实现的登录弹窗效果示例
  • 【干货教程】DeepSeek R1+Open WebUI构建RAG检索增强知识库的实战教程
  • DeepSeek 助力 Vue 开发:打造丝滑的范围选择器(Range Picker)
  • 已弃用Flutter的Gradle插件的命令式应用
  • Java进阶篇之Lambda表达式
  • 蜂鸟视图发布AI智能导购产品:用生成式AI重构空间服务新范式