当前位置： 首页 > article >正文

Windows 本地部署大模型 OpenWebUI+Ollama

article 2025/2/11 6:33:08

安装Ollama

Ollama官方网址：https://ollama.com

下载运行大模型

  • 在Ollama官网中查看需要下载的大模型
    https://ollama.com/library
    在这里插入图片描述
  • 复制图片中的链接
    打开cmd，运行此命令（此过程会时间会很久）
    在这里插入图片描述

下载Miniconda

  • Miniconda作用是创建环境，防止不同python版本相互影响，推荐默认安装
    https://repo.anaconda.com/miniconda/Miniconda3-latest-Windows-x86_64.exe
    安装时这里需要勾选上
    在这里插入图片描述

配置Anaconda 软件仓库

  • 清华大学Anaconda仓库
    https://mirror.tuna.tsinghua.edu.cn/help/anaconda/
    windows打开cmd执行此命令：
    conda config --set show_channel_urls yes
  • 后打开文件资源管理器，打开此文件
    C:\Users\系统用户名\.condarc

更改里面的内容修改为如下内容（可在清华大学Anaconda仓库中找到）：
在这里插入图片描述

创建Conda环境命令

  • 打开cmd执行如下命令创建环境
    conda create -n py311 python=3.11
    在这里插入图片描述

安装OpenwebUI

在这里插入图片描述

pip install -i https://mirrors.tuna.tsinghua.edu.cn/pypi/web/simple open-webui

这个过程可能会很久

  • 安装完成之后使用open-webui serve运行open-webui
    运行刚开始运行时可能会遇见问题（报错，依赖找不到问题）：
    在这里插入图片描述

  • 需要下载此模型文件，放在对应文件夹下：
    在这里插入图片描述

  • 再运行open-webuiopen-webui serve
    在这里插入图片描述

  • 成功后打开链接：http://localhost:8080
    注册后登录
    在这里插入图片描述

  • 进去后可自动识别本地大模型
    在这里插入图片描述
    到在这里本地大模型就部署好啦~

PS:此教程参考b站，视频链接： 点击进入


http://www.kler.cn/a/540296.html

相关文章：

  • 云原生（五十四） | RDS数据导入与导出
  • EasyExcel 导出合并层级单元格
  • 2025/2/10 心得
  • DFS+回溯+剪枝（深度优先搜索）——搜索算法
  • c++ haru生成pdf输出饼图
  • VLLM历次会议(2024.1)
  • 游戏引擎学习第95天
  • 【GIS】本地部署nominatim地理编码服务
  • 【人工智能】python之set集合练习
  • 等级保护2.0|网络安全服务
  • pytorch torch.linalg模块介绍
  • pip3命令全解析：Python3包管理工具的详细使用指南
  • 【LeetCode 热题100】74：搜索二维矩阵（二分、线性两种方式 详细解析）（Go 语言实现）
  • 超越 DeepSeek V3 --＞【Qwen2.5-Max】
  • 【快应用】原生广告下载状态监听案例
  • 证明: 极限的局部有界性
  • Faiss特征向量搜索
  • ESP-IDF学习记录（6）
  • Django开发入门 – 2.Django的Web应用项目架构
  • flink JobGraph解析
  • leetcode刷题-动态规划04
  • 机器学习：学习记录（二）
  • Kotlin实战经验：将接口回调转换成suspend挂起函数
  • Bigemap Pro如何裁剪矢量数据
  • Ollama系列---【ollama使用gpu运行大模型】
  • 蓝耘智算平台部署deepseek-助力深度学习