当前位置：首页 > article >正文

docker compose启动ollama+openweb ui，本地大模型十分钟搭建，速度主要取决于网速

article 2025/3/22 18:33:59

文章目录

前言
wsl2 + docker
- 官方教程
- 安装wsl2
- 安装 Linux 发行版
- 设置 Windows Terminal
- 设置 Linux 用户名和密码
- WSL 与 Windows Terminal 配合使用
- wsl其他
- - Ubuntu 更新和升级包
  - 文件存储
  - 运行 Linux GUI 应用
  - VS Code 和 WSL 扩展
- 安装 Docker Desktop
- 使用 Docker 设置远程开发容器
ollama + openweb ui
- docker compose
- 镜像拉取
- ollama models拉取
- 启动openweb ui

前言

ollama托管式的大模型本地化部署，让大模型走入千家万户，考虑到更加极致的方便，也可以通过docker compose一键拉取

如果已经具备docker desktop + wsl2的玩家直接调到dockercompose启动章节即可

wsl2 + docker

官方教程

关于安装wsl2，还是优先推荐微软官方教程

https://learn.microsoft.com/zh-cn/windows/wsl/tutorials/wsl-containers

在这里插入图片描述

安装wsl2

适用于 Linux 的 Windows 子系统随 Windows 操作系统一起提供，但必须先启用它并安装 Linux 发行版，然后才能开始使用它。

若要使用简化的 --install 命令，必须运行最新版本的 Windows（内部版本 20262+）。若要检查 Windows 版本及内部版本号，选择 Windows 徽标键 + R，然后键入“winver”，选择“确定”。可以使用“设置”菜单或 Windows 更新助手进行更新。

打开 PowerShell（或 Windows 命令提示符）并输入：

wsl --install

--install 命令执行以下操作：

启用可选的 WSL 和虚拟机平台组件
下载并安装最新 Linux 内核
将 WSL 2 设置为默认值
下载并安装 Ubuntu Linux 发行版（可能需要重新启动）

在此安装过程中，你将需要重启计算机。
在这里插入图片描述

安装 Linux 发行版

打开应用商店的 Ubuntu 页面。例如，“Ubuntu 24.04 LTS”。
点击 “在应用商店中获取” 按钮。
点击 “打开” 按钮，即可在 Windows 上启动 Ubuntu。

设置 Windows Terminal

Windows Terminal 可以使用命令行接口运行任何应用程序。它的主要功能包括多个选项卡、窗格、Unicode 和 UTF-8 字符支持、GPU 加速文本呈现引擎，你还可用它来创建你自己的主题并自定义文本、颜色、背景和快捷方式。

每当安装新的 WSL Linux 发行版时，都会在 Windows Terminal 中为其创建一个新实例，该实例可根据你的偏好进行自定义。

建议将 WSL 与 Windows Terminal 配合使用，尤其是在计划使用多个命令行时。请参阅 Windows Terminal 文档，了解如何对其进行设置以及如何自定义首选项，包括：

从 Microsoft Store 安装 Windows Terminal 或 Windows Terminal（预览版）
在这里插入图片描述

设置 Linux 用户名和密码

使用 WSL 安装 Linux 发行版的过程完成后，使用“开始”菜单打开该发行版（默认情况下为 Ubuntu）。系统将要求你为 Linux 发行版创建“用户名”和“密码”。
在这里插入图片描述
此用户名和密码特定于安装的每个单独的 Linux 分发版，与 Windows 用户名无关。

请注意，输入密码时，屏幕上不会显示任何内容。这称为盲人键入。你不会看到你正在键入的内容，这是完全正常的。

创建用户名和密码后，该帐户将是分发版的默认用户，并将在启动时自动登录。
此帐户将被视为 Linux 管理员，能够运行 sudo (Super User Do) 管理命令。
在 WSL 上运行的每个 Linux 发行版都有其自己的 Linux 用户帐户和密码。每当添加分发版、重新安装或重置时，都必须配置一个 Linux 用户帐户。

备注

随 WSL 一起安装的 Linux 发行版是按用户安装，不可与其他 Windows 用户帐户共享。

若要更改或重置密码，请打开 Linux 发行版并输入命令：passwd。系统会要求你输入当前密码，然后要求输入新密码，之后再确认新密码。

如果忘记了 Linux 分发版的密码：

请打开 PowerShell，并使用以下命令进入默认 WSL 分发版的根目录：wsl -u root

如果需要在非默认分发版中更新忘记的密码，请使用命令：wsl -d Debian -u root，并将 Debian 替换为目标分发版的名称。
在 PowerShell 内的根级别打开 WSL 发行版后，可使用此命令更新密码：passwd ，其中是发行版中帐户的用户名，而你忘记了它的密码。
系统将提示你输入新的 UNIX 密码，然后确认该密码。在被告知密码已成功更新后，请使用以下命令在 PowerShell 内关闭 WSL：exit。

WSL 与 Windows Terminal 配合使用

任意文件夹邮件即可打开 Windows Terminal

通过新建窗格就可以打开新的窗口
在这里插入图片描述
也可以配置ubuntu为terminal默认打开

wsl其他

Ubuntu 更新和升级包

建议使用发行版的首选包管理器定期更新和升级包。对于 Ubuntu 或 Debian，请使用以下命令：

sudo apt update && sudo apt upgrade

Windows 不会自动更新或升级 Linux 分发版。大多数 Linux 用户往往倾向于自行控制此任务。

文件存储

若要在 Windows 文件资源管理器中打开 WSL 项目，请输入：explorer.exe .
请确保在命令的末尾添加句点以打开当前目录。

例如，在存储 WSL 项目文件时：

使用 Linux 文件系统根目录：\wsl$<DistroName>\home<UserName>\Project
而不使用 Windows 文件系统根目录：C:\Users<UserName>\Project 或 /mnt/c/Users//Project$

在这里插入图片描述

运行 Linux GUI 应用

可将 Windows 应用程序和 Linux 应用程序集成到工作流中，以获得无缝的桌面体验。

https://learn.microsoft.com/zh-cn/windows/wsl/tutorials/gui-apps

VS Code 和 WSL 扩展

通过vscode remote即可连接到wsl
在这里插入图片描述

安装 Docker Desktop

若要安装 Docker（在已安装 WSL 之后）：

下载 Docker Desktop

https://www.docker.com/products/docker-desktop/

在这里插入图片描述

使用 Docker 设置远程开发容器

在“设置”>“常规”中选中“使用基于 WSL 2 的引擎”。

在这里插入图片描述

ollama + openweb ui

docker compose

空白文件夹，新建docker-compose.yml文件

version: '3.3'
services:
  ollama:
    # build:
    #   context: ./ollama
    #   dockerfile: Dockerfile
    image: docker.unsee.tech/ollama/ollama
    container_name: ollama
    networks:
      - ollamaui
    ports:
      - 11434:11434
    volumes:
      - ./ollama/data:/root/.ollama
    restart: no
  open-webui:
    container_name: bruce-open-webui
    image: m.daocloud.io/ghcr.io/open-webui/open-webui:main
    volumes:
      - ./runtime/open-webui:/app/backend/data
    ports:
      - "30000:8080"
    environment:
      - TZ=Asia/Shanghai
      - 'OLLAMA_BASE_URL=http://ollama:11434'
      - 'HF_ENDPOINT=https://hf-mirror.com'
    networks:
      - ollamaui
networks:
  ollamaui: