当前位置: 首页 > article >正文

如何在 Windows 上安装和使用 Ollama WebUI

什么是 Open WebUI(以前称为 Ollama WebUI)?

        Open WebUI是一款可扩展、功能丰富且用户友好的自托管 WebUI,旨在完全离线运行。它支持各种 LLM 运行器,包括 Ollama 和 OpenAI 兼容 API。

        Ollama WebUI 是一款革命性的 LLM 本地部署框架,具有类似 chatGPT 的 Web 界面。让我们为您部署在 ollama 上的 LLM 获取类似 chatGPT 的 Web UI 界面。只需按照以下 5 个步骤即可开始使用。

系统要求

        Windows 10 64 位:最低要求是 Home 或 Pro 21H2(内部版本 19044)或更高版本,或者 Enterprise 或 Education 21H2(内部版本 19044)或更高版本。

        Windows 11 64 位:家庭版或专业版 21H2 或更高版本,或企业版或教育版 21H2 或更高版本。

        WSL 版本 1.1.3.0 或更高版本。在 Windows 上打开 WSL 2 功能。

        8 核 64 位处理器、16GB+ RAM、4GB+ VRAM 的 Nvidia 显卡

        Docker Desktop,最新版本

安装和使用 Ollama Web UI 的 5 个步骤

        在 Windows 计算机上深入研究 Ollama 和 Ollama WebUI 是进入人工智能和机器学习世界的一次激动人心的旅程。本详细指南将引导您完成每个步骤并提供示例以确保顺利启动。

第 1 步 - 安装 Ollama

        从https://ollama.com/download/windows下载 Ollama ,然后右键单击下载的 OllamaSetup.exe 文件并以管理员身份运行安装程序。安装完成后,Ollama 即可在您的 Windows 系统上使用。Ollama 图标将添加到桌面底部的托盘区域。

        要运行 Ollama 并开始使用其 AI 模型,您需要在 Windows 上使用终端。我们在此跳过此步骤,让我们看看如何安装 WebUI 以获得更好的体验。

第 2 步 - 安装 Ollama WebUI

        运行以下 docker 命令在本地计算机上部署 ollama-webui docker 容器。如果您的计算机上有 Ollama,请使用以下命令:

docker run -d -p 3000:8080 --add-host=host.docker.internal:host-gateway -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

        要连接到另一台服务器上的 Ollama,请将 OLLAMA_BASE_URL 更改为服务器的 URL。因此,如果 Ollama 位于不同的服务器上,请使用以下命令:

docker run -d -p 3000:8080 -e OLLAMA_BASE_URL=https://example.com -v open-webui:/app/backend/data --name open-webui --restart always ghcr.io/open-webui/open-webui:main

        注意:使用 Docker 安装 Open WebUI 时,请确保在 Docker 命令中包含 -v open-webui:/app/backend/data。此步骤至关重要,因为它可确保正确安装数据库并防止任何数据丢失。

步骤 3 - 登录以打开 WebUI

安装完成后,您可以通过http://localhost:3000访问Open WebUI。首次使用需要点击“注册”。

一旦注册,您将被引导至 ollama-webui 的主页。

步骤 4 - 从 Ollama.com 拉取模型

        点击右上角的设置图标,打开设置窗口,如下图所示,输入模型标签(例如llama2:7b,gemma:2b),点击右侧的下载按钮,等待模型下载完成。 

步骤 5 - 选择模型并享受您的 AI 聊天

如下图,我们下载了gemma:2b和llama2:7b模型,选择gemma:2b。

输入提示词“AI的未来是什么?”,按Enter键发送消息。

结论

        在本文中,介绍在 Windows 上使用 Ollama WebUI 的基础知识。Ollama 以其易用性、自动硬件加速和对综合模型库的访问而脱颖而出。Ollama WebUI 使其成为对人工智能和机器学习感兴趣的任何人的宝贵工具。

如果您喜欢此文章,请收藏、点赞、评论,谢谢,祝您快乐每一天。 


http://www.kler.cn/a/613777.html

相关文章:

  • 支持 MCP 协议的开源 AI Agent 项目
  • LeetCode算法题(Go语言实现)_15
  • 把docker镜像推送到harbor服务器
  • 爱普生晶体单元FC2012AN在5G RedCap中的应用
  • AI写一个视频转图片帧工具(python)
  • ClickHouse与TiDB实操对比:从入门到实战的深度剖析
  • 基于Hbuilder X的uni-app连接OneNET云平台及AI交互 实战指南(二)——获取数据流模型的数据
  • 国产RISC-V车规芯片当前现状分析——从市场与技术角度出发
  • vscode 配置参考
  • spring 设置接收json request 返回json类型response
  • vivado 定义输入延迟
  • 【安全】记录钓鱼邮件中木马病毒的分析溯源
  • Linux fority source和__builtin_xxx
  • Burp Suite抓包实战:SQL注入漏洞挖掘
  • 无人机宽带自组网机载电台技术详解,50KM超远图数传输系统实现详解
  • Debian ubuntu源
  • 深度求索(DeepSeek):以AI之力重塑医疗未来
  • 机器学习——LightGBM
  • 系统间交互时,怎么校验两个系统所在服务器时间是否一致
  • 【Linux】应用层协议 HTTP