当前位置: 首页 > article >正文

ubuntu22.04本地部署OpenWebUI

一、简介

Open WebUI 是一个可扩展、功能丰富且用户友好的自托管 AI 平台,旨在完全离线运行。它支持各种 LLM 运行器,如 Ollama 和 OpenAI 兼容的 API,并内置了 RAG 推理引擎,使其成为强大的 AI 部署解决方案。

二、安装

方法 1:docker安装

注意
Open WebUI 需要 WebSocket 支持才能正常运行。确保您的网络配置允许 WebSocket 连接。

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main
# 支持GPU
docker run -d -p 3000:8080 --gpus all --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:cuda

安装后,访问http://ip:3000

方法 2:手动安装

1.安装uv

curl -LsSf https://astral.sh/uv/install.sh | sh

2.运行 Open WebUI

DATA_DIR=~/.open-webui uvx --python 3.11 open-webui@latest serve

安装后,可以访问 Open WebUI at http://ip:8080

三、配置

在这里插入图片描述
在这里插入图片描述
在这里插入图片描述
在这里插入图片描述

四: 问题解决

1.open webui 白屏问题:
在白屏页面等待几分钟后,进入系统,右上角管理员面板中点击设置选项,找到外部连接,关闭OpenAI API接口,然后点击右下角保存即可。
在这里插入图片描述


http://www.kler.cn/a/575909.html

相关文章:

  • 逐梦 DBA:从数据库概述出发
  • Redis——缓存穿透、击穿、雪崩
  • 【maven】maven依赖报错解决方式
  • 【每日学点HarmonyOS Next知识】对话框回调问题、输入区域最大行数、web自定义节点、icon图标库、软键盘开关
  • Ubuntu的软件源
  • 元宇宙运维:虚拟化与数字孪生系统
  • 玩转python: 掌握Python数据结构之链表
  • 【从零开始学习计算机科学】数字逻辑(六)组合逻辑电路
  • ES Module 的 import 导入和 import () 动态导入
  • 《Python实战进阶》No13: NumPy 数组操作与性能优化
  • 在16卡服务器上使用最新版的CUDA和驱动训练`llama - 2 - 7b`和`llama - 2 - 70b`模型,并生成训练指标数据
  • 以商业思维框架为帆,驭创业浪潮前行
  • 智慧农业中,物联网(IoT)通过集成产量数据和市场价格信息
  • 计算机毕业设计SpringBoot+Vue.js校园资产管理(源码+文档+PPT+讲解)
  • 23种设计模式之《适配器模式(Adapter)》在c#中的应用及理解
  • 数字孪生对于新基建的价值浅析,算是抛砖引玉。
  • 网络安全总集成服务
  • svn删除所有隐藏.svn文件,文件夹脱离svn控制
  • 基于磁数据的伤痕、生锈、断丝分类训练平台搭建规划
  • 从零开始实现大语言模型(十四):高阶训练技巧