当前位置: 首页 > article >正文

轻松搭建本地大语言模型(二)Open-WebUI安装与使用

文章目录

    • 前置条件
    • 目标
    • 一、安装 Open-WebUI
      • 使用 Docker 部署
    • 二、使用 Open-WebUI
      • (一)访问Open-WebUI
      • (二)注册账号
      • (三)模型选择
      • (四)交互
    • 四、常见问题
      • (一)容器无法访问宿主机
      • (二)服务未启动
    • 参考文章

Open-WebUI 是一个功能强大的开源工具,旨在为用户提供一个简洁且功能丰富的界面来管理和使用大语言模型(LLM)。它支持与 Ollama 等后端服务集成,方便用户通过 Web 界面进行模型交互。本文将详细介绍 Open-WebUI 的安装方法和基本使用技巧。

前置条件

  • 电脑上装有docker环境

可以参考这个文章https://www.runoob.com/docker/windows-docker-install.html

目标

  • 启动Open-WebUI连接本地Ollama启动的大模型

一、安装 Open-WebUI

使用 Docker 部署

如果Ollama在当前机器上,可以使用以下命令

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

如果Ollama在其他服务器上,请使用此命令:

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
  • OLLAMA_BASE_URL:ollama连接地址

二、使用 Open-WebUI

(一)访问Open-WebUI

打开浏览器,访问 http://localhost:3000。

(二)注册账号

image-20250218224936601

(三)模型选择

image-20250218230116023

这里可以切换ollama中已有的模型

(四)交互

左上角选择完想要的模型后,即可与之对话

image-20250218230333601

至此,即可在本地浏览器使用界面与大模型进行对话

四、常见问题

(一)容器无法访问宿主机

如果你在部署时遇到容器无法访问宿主机的问题,确保使用了 --add-host=host.docker.internal:host-gateway 参数。

(二)服务未启动

如果服务未正常启动,检查 Docker 日志以获取更多信息:

docker logs -f open-webui

参考文章

https://github.com/open-webui/open-webui


http://www.kler.cn/a/551877.html

相关文章:

  • 深入解析504网关超时错误:服务器通信故障的诊断与解决
  • wx064基于ssm+vue+uniapp的医院挂号预约系统小程序
  • SNARKs 和 UTXO链的未来
  • FFmpeg 基本语法全面介绍
  • #渗透测试#批量漏洞挖掘#Apache Log4j反序列化命令执行漏洞
  • 进阶!Vuex 状态管理:从入门到精通,打造高效 Vue.js 应用
  • 如何快速体验springboot 4.0.x最新适配,看看更新啦那些变化。
  • 多表关联查询的优化
  • 使用Java爬虫获取1688按图搜索商品(拍立淘API接口)
  • 嵌入式Linux系统UART驱动移植专题详解(3000+字图文实战指南)
  • SAP F1搜索帮助 添加自定义功能按钮
  • git 学习(基于Ubuntu和gitee)
  • vue + uniapp + 高德地图实现微信小程序地图polyline、marker展示
  • (学习总结25)Linux工具:vim 编辑器 和 gcc/g++ 编译器
  • 2024 年 6 月青少年软编等考 C 语言三级真题解析
  • 【linux】更换ollama的deepseek模型默认安装路径
  • 【Linux探索学习】第二十九弹——线程概念:Linux线程的基本概念与线程控制详解
  • 【ISO 14229-1:2023 UDS诊断(会话控制0x10服务)测试用例CAPL代码全解析④】
  • Qt 中使用 ffmpeg 获取采集卡数据录制视频
  • i++和++i的区别