当前位置: 首页 > article >正文

window系统下使用open-webui+ollama部署大模型

        前面一篇博文中讲述了window下用ollama+AnythingLLM部署本地知识库,但是个人感觉anythingllm不是很好用,还不如直接用cmd窗口,而且仅能本机使用,如果想部署到服务器上面供其他人访问,完全不可行,但是使用open-webui+ollama或者独立的open-webui救可以实现。

        使用open-webui部署,其实也可以不用ollama,因为open-webui里面本身支持从huggingface里面直接下载,或者下载后放到指定目录即可使用,但是有一个确定就是,访问huggingface需要“科学上网”工具才能进行访问,一般来说部署在服务器上面,出于安全考虑,都是不建议的,同时为了没有“科学上网”工具的读者也可以实现,所以下面将分别讲解open-webui单独使用和+ollama使用的方式。

  1、open-webui部署

                要在windows系统部署open-webui,首先要安装conda来设置虚拟环境,当前带有交互界面的有anaconda和minconda,下面将使用anaconda来部署虚拟环境。

       首先要从anaconda官网Download Anaconda Distribution | Anaconda下载安装文件,然后进行安装(安装一般都是下一步、下一步,如果有疑问,可以直接搜索anaconda,查看前人(此处给一个例子:Anaconda安装-超详细版(2023)_anaconda安装教程-CSDN博客)已经写好的步骤即可,此处不在赘述),安装好后直接在开始界面点击下图所示功能运行(启动过程可能因为硬件问题会有点慢)


http://www.kler.cn/a/408194.html

相关文章:

  • LCR-003比特位计数
  • 电子电气架构 -- ASIL D安全实现策略
  • STM32ADC独立模式单通道采集实验
  • Creo 6.0 软件安装教程下载
  • 非线性控制器设计原理
  • c++应用网络编程之十五Nagle算法
  • flowable流程图详细绘制教程
  • 基于YOLOv8深度学习的智慧农业果园果树苹果类果实目标检测系统(PyQt5界面+数据集+训练代码)
  • shell脚本(6)
  • 【Rabbitmq篇】高级特性----TTL,死信队列,延迟队列
  • 美年健康集团发布“共建共享高质量职场健康管理宣言”,全面启动“高质量职场健康先行试点工作”
  • 【C++】类(四):类的作用域
  • 【大语言模型】ACL2024论文-20 SCIMON:面向新颖性的科学启示机器优化
  • hhdb数据库介绍(10-4)
  • 《OpenCV 中阈值处理方法全解析及应用实例》
  • 【大数据学习 | Spark-Core】Spark的kryo序列化
  • java: itext 5.5 create pdf
  • HBU算法设计与分析 贪心算法
  • springboot实战(16)(Validation参数校验冲突问题、分组校验、默认分组)
  • opencv进行rtsp推流