当前位置： 首页 > article >正文

学习篇 | Ollama 安装、运行大模型（CPU 实操版）

article 2024/11/16 0:34:25

1. 操作步骤

1.1 安装

# 通过 homebrew 安装
brew install ollama

1.2 验证（可跳过）

# 输出命令使用提示则安装成功
ollama --help

1.3 启动服务端

# 启动 ollama 服务（默认在 11434 端口，模型文件在 ~/.ollama）
ollama serve

1.4 跑通第一个模型

# 新开一个终端窗口，执行如下命令（将下载并运行 Qwen2 的 0.5B 的 Chat 模型）
ollama run qwen2.5:0.5b-instruct

2. 参考资料

2.1 Ollama

GitHub

https://github.com/ollama/ollama

3. 资源

3.1 Ollama

library（模型工厂）

https://ollama.com/library


http://www.kler.cn/a/319759.html

相关文章：

  • 创建型设计模式与面向接口编程
  • 解读Nature：Larger and more instructable language models become less reliable
  • 《Python Web 抓取实战：豆瓣电影 Top 250 数据抓取与分析》
  • UVa 11855 Buzzwords
  • 【汇编语言】包含多个段的程序（二）—— 将数据、代码、栈放入不同的段
  • Rocky、Almalinux、CentOS、Ubuntu和Debian系统初始化脚本v9版
  • 第二十节：学习Redis缓存数据库实现增删改查（自学Spring boot 3.x的第五天）
  • uniApp 解决uniapp三方地图获取位置接口的请求次数限制问题,分别提供 Android 和 iOS 的实现方法(原生插件获取)
  • 宠物智能化听诊器的健康管理！
  • BOE（京东方）携多场景物联网创新应用亮相2024服贸会 “屏之物联”赋能数字经济
  • 深度学习：常见损失函数简介--名称、作用和用法
  • C Primer Plus 第7章——第二篇
  • 渗透测试工具 sqlmap 基础教程
  • Linux Shell: 使用 Expect 自动化 SCP 和 SSH 连接的 Shell 脚本详解
  • 模板初阶(C++）
  • 适合二开的web组态软件
  • Redis入门介绍
  • JAVA大学期末考试真题（带答案）
  • C++(9.23)
  • Profinet通讯电能计量装置 功能介绍
  • 智慧体育馆可视化：实时监控与智能管理
  • 滑动窗口算法第一弹（长度最小的子数组，无重复字符的最长子串 最大连续1的个数III）
  • C++: 继承
  • grafana 使用常见问题
  • Unity数据持久化4——2进制
  • Flink的反压机制：底层原理、产生原因、排查思路与解决方案