当前位置: 首页 > article >正文

潇洒郎:部署Dify, 安装Ollama,Ollama下载模型,Dify配置模型

Ollama

1、安装ollama

Windows版本下载:2024WindowsOllama最新0.5.4版本资源-CSDN文库, 下载速度超快,官网太慢了

双击安装,安装成功后,托盘区有Ollama图标

右键View logs打开目录

C:\Users\Administrator\AppData\Local\Ollama

Ollama安装位置并添加环境变量

C:\Users\Administrator\AppData\Local\Programs\Ollama

Ollama app: C:\Users\Administrator\AppData\Local\Programs\Ollama\ollama app.exe

2、修改Ollama监听端口

如修改为8000,不修改其他机器无法访问,因为Ollama默认绑定localhost或者127.0.0.1

先结束托盘区的Ollama, 再添加环境变量OLLAMA_HOST为:18000

Windows开放8000端口访问或者关闭防火墙

netsh advfirewall set allprofiles state off

测试Ollama在运行

http://192.168.146.101:18000

3、ollama拉取镜像

ollama pull snowflake-arctic-embed2:latest
ollama pull bge-m3:latest
ollama pull qwen2.5:7b
ollama pull glm4:9b
ollama pull llama2-chinese:7b
ollama pull llama3.2:3b

4、ollama查看镜像

5、ollama部署web-ui

git clone https://github.com/open-webui/open-webui.git
cd open-webui
docker run -d --network=host -v open-webui:/app/backend/data -e OLLAMA_BASE_URL=http://192.168.1.17:50080 --name open-webui --restart always ghcr.io/open-webui/open-webui:main

Dify

1、安装部署Dify

# 下载源码
git clone https://gitee.com/liuchuangjun/dify.git

(注意gitee中代码最新为0.6.11, 不支持chatflow)

需要去github上下载源码

https://github.com/langgenius/dify.git



cd dify
# 安装运行docker compose
cd docker
docker compose up -d

(如果失败则单独拉取镜像

docker pull langgenius/dify-api:0.6.11

docker pull langgenius/dify-web:0.6.11

docker pull langgenius/dify-sandbox:0.2.1

docker pull semitechnologies/weaviate:1.19.0


#  注册管理员账号
http://192.168.1.39/install 

2、添加成员


http://www.kler.cn/a/456358.html

相关文章:

  • JavaScript甘特图 dhtmlx-gantt
  • 面试场景题系列:设计URL短链
  • 深度学习中的参数初始化
  • Anaconda 安装与虚拟环境创建完整指南
  • jetbrains HTTPS 请求与响应流量分析报告【二】
  • C语言实践中的补充知识 Ⅶ
  • 在国产电脑上运行PDFSAM软件使用pdf分割合并交替混合处理pdf文档
  • 基于 Vant UI + Redisson BitSet 实现签到日历
  • springBoot发布https服务及调用
  • 77、将adaface的mtcnn模型npy文件转成atlas310p模型,并进行推理
  • 【Linux网络编程】第十五弹---传输层深度解析:端口号划分、UDP协议特性与TCP协议全面剖析(含连接管理、流量控制、拥塞控制等)
  • ShenNiusModularity项目源码学习(6:访问控制)
  • 设计一个基于Spring Boot开发的电商网站,部署在阿里云上
  • 【C/C++】C语言编程规范
  • pthread_create概念和使用案例
  • DeepSeek-V2:强大、经济且高效的专家混合语言模型
  • AIDD - 人工智能药物设计 -使用 Butina 模块对相似化合物进行聚类
  • vue2前端导出pdf文件
  • stm32基础(keil创建、Proteus仿真、点亮LED灯,7段数码管)
  • AI + 爬虫:智能化数据采集的未来