当前位置: 首页 > article >正文

Open WebUI + openai API / vllm API ,实战部署教程

介绍Open WebUI + Ollama 的使用: https://www.dong-blog.fun/post/1796

介绍vllm 的使用:https://www.dong-blog.fun/post/1781

介绍 Ollama 的使用: https://www.dong-blog.fun/post/1797

本篇博客玩个花的,Open WebUI 本身可以兼容openai 的api, 那来尝试一下。

仅供 OpenAI API 使用安装

如果您仅使用 OpenAI API,请使用此命令:

# 我当前在宿主机目录 /ssd/xiedong

mkdir openwebui-test

cd openwebui-test

# 下面这个指令,换为自己的绝对路径挂进去
docker run -d --ipc=host -p 8081:8080 --gpus=all <

http://www.kler.cn/news/367692.html

相关文章:

  • 猴子请来的补丁——Python中的Monkey Patching
  • 深入解析 OceanBase 数据库中的局部索引和全局索引
  • Spring MVC 为什么是 MVC 而不是 MVP
  • 【问题解决】C++调用shared_from_this()报错bad_weak_ptr解决方案
  • 大一物联网要不要转专业,转不了该怎么办?
  • 计算机网络原理总结D-传输层
  • Zookeeper面试整理-故障排查和调试
  • 【Linux】线程池详解及其基本架构与单例模式实现
  • 如何高效集成聚水潭数据至MySQL-技术案例解析
  • offset Explorer连接云服务上的kafka连接不上
  • CRM与OA:企业选择哪个更适合?
  • 带电脑在外出差,可以将电脑屏幕投屏到家里的电视吗?
  • 精益思维在新能源汽车研发中的应用体现
  • 应对.baxia勒索病毒挑战:数据恢复与预防措施并重
  • 抖动(Thrashing)
  • 数据挖掘(三)
  • 【OSlab】qemu和AbstractMachine的使用
  • 504 Gateway Time-outopenresty
  • 【译】图数据库
  • JVM 加载 class 文件的原理机制
  • 在vue中 如何实现跨域
  • STM32实现毫秒级时间同步
  • 【解惑】如何用python输出“1024“
  • SQL CHECK 约束:确保数据完整性的关键
  • 【LeetCode】修炼之路-0008- String to Integer (atoi)【python】
  • 世优科技AI数字人180+面部控制参数,雕琢智能体精准表达