当前位置: 首页 > article >正文

win10系统部署RAGFLOW+Ollama教程

本篇主要基于linux服务器部署ragflow+ollama,其他操作系统稍有差异但是大体一样。

一、先决条件

CPU ≥ 4核;
RAM ≥ 16 GB;
磁盘 ≥ 50 GB;
Docker ≥ 24.0.0 & Docker Compose ≥ v2.26.1。
如果尚未在本地计算机(Windows、Mac或Linux)上安装Docker,请参阅安装Docker引擎。

——————————————————————————
我的系统配置
系统配置截图
——————————————————————————

二、启动RAGFLOW服务器

1、确保 vm.max_map_count ≥ 262144

在 Windows 10 系统上,WSL 2 是运行在虚拟机环境下的,因此直接通过 WSL 2 来检查 vm.max_map_count 的值并不适用。vm.max_map_count 是 Linux 内核的一个参数,而 WSL 2 的内核是托管在 Windows 上的,不能像RAGFLOW手册中那样的方式修改 vm.max_map_count值。

解决办法:

1、cmd命令行中输入下面命令进入WSL2的Linux终端

wsl

2、登录到您的 Linux 发行版

sudo su

3、临时修改 vm.max_map_count 参数(仅对当前对话有效)

echo 262144 > /proc/sys/vm/max_map_count

4、永久修改,编辑 /etc/sysctl.conf 文件(我们选择这种修改方式!)

echo "vm.max_map_count=262144" >> /etc/sysctl.conf

5、重新加载 sysctl 配置

sysctl -p

6、检查 vm.max_map_count 参数

cat /proc/sys/vm/max_map_count

成功截图如下

检查结果图

2、RAGFlow的拉取运行

git clone https://github.com/infiniflow/ragflow.git

——————————————————————————————
遇到问题:

(1)访问不了github.com

解决办法:
见另外一篇博文win10系统访问不了github,com解决办法(亲测有效)

(2)git命令未安装

报错提示:

C:\Users\Administrator>git clone https://github.com/infiniflow/ragflow.git
‘git’ 不是内部或外部命令,也不是可运行的程序
或批处理文件。
C:\Users\Administrator>

解决办法:

访问Git官网下载最新版本的 Git 安装程序。

https://git-scm.com/downloads/win

运行安装程序

双击下载的安装程序,按照提示进行安装(可自定义安装位置)
一路默认即可。

添加到环境变量
步骤截图

添加 Git 的安装路径

我的路径:

E:\Program Files\Git\bin

添加步骤

注意:根据自己的git安装位置粘贴路径,环境变量粘贴到bin目录下

验证安装

注意:重新打开一个cmd窗口

git --version

下图为安装成功界面(版本信息)

安装成功版本信息
——————————————————————————————————
再次运行git克隆仓库命令

git clone https://github.com/infiniflow/ragflow.git

如下拉取成功截图

拉取成功截图
运行

cd ragflow/docker
docker compose -f docker-compose.yml up -d

注意:镜像文件大约9GB,下载过程可能需要一些时间,请耐心等待。

3、确认服务器状态

docker logs -f ragflow-server

启动成功截图

三、RAGFLOW配置 Ollama 连接大模型

1.打开浏览器输入

http://localhost:80

界面如下图所示

注册登录账号
注册登录截图

登录后界面,选择配置模型
登录后连接模型
添加模型
添加模型样例
我的基础URL

http://host.docker.internal:11434

注意:模型名称对应填好,不知道的使用命令查看一下复制过来

ollama list

————————————————————————————————
关于基础URL的几点说明:

(1)Ollama和RAGFlow在同一台机器上运行,基本URL:

http://host.docker.internal:11434

(2)Ollama和RAGFlow在同一台机器上运行,并且Ollama或者RAGFLOW在Docker中,基本URL:

http://host.docker.internal:11434

(3)Ollama在与RAGFlow不同的机器上运行,基本URL:

http://<IP_OF_OLLAMA_MACHINE>:11434

注意:大家根据自己的实际情况填写基础URL

————————————————————————————————
成功连接截图
成功连接截图

四、创建知识库(可更新)


http://www.kler.cn/a/416878.html

相关文章:

  • 七牛云成功保存但无法显示和访问{“error“:“download token not specified“}
  • Linux下的wlan0控制
  • 直接抄作业!Air780E模组LuatOS开发:位运算(bit)示例
  • 【ArcGIS Pro】实现一下完美的坐标点标注
  • 机载视频流回传+编解码方案
  • redis机制详解
  • LVS-DR工作模式简介(相对nat性能更高)
  • Redis3——线程模型与数据结构
  • 数据结构 (20)二叉树的遍历与线索化
  • 【RL Base】强化学习:信赖域策略优化(TRPO)算法
  • python3 自动更新的缓存类
  • 多类别的大豆叶病识别模型复现
  • Flutter:页面滚动
  • 软件无线电(SDR)的架构及相关术语
  • 软通动力携子公司鸿湖万联、软通教育助阵首届鸿蒙生态大会成功举办
  • 数据结构——排序算法第一幕(插入排序:直接插入排序、希尔排序 选择排序:直接选择排序,堆排序)超详细!!!!
  • 40分钟学 Go 语言高并发:服务性能调优实战
  • nginx搭建直播推流服务
  • PHP和GD库如何根据像素绘制图形
  • 小车AI视觉交互--1.颜色追踪
  • 一个Python脚本
  • 网络安全开源组件
  • 用堆求解最小可用ID问题
  • C++ 之弦上舞:string 类与多样字符串操作的优雅旋律
  • 面向数字音视频的网络与操作系统技术研讨会 征稿通知
  • Qt 项目中同时使用 CMAKE_AUTOUIC 和 UiTools 的注意事项