当前位置: 首页 > article >正文

社区版Dify+Ollama+llama3.2-vision 实现多模态聊天

社区版Dify+Ollama+llama3.2 vision 实现多模态聊天

    • Dify 安装可参考这里
    • Dify 部署LLM 可以参考这里
    • Dify实现多模态聊天
      • 1. ollama安装多模态大模型
      • 2. 重点介绍和推荐 使用下 llama3.2-vision
    • Dify 搭建chatflow 图像聊天
      • LLM怎么设置和怎么实现中文
      • 一些点睛之处

Dify 安装可参考这里

这是一个在Dify上实现 文生图的教程,如果你还没有安装社区版Dify,可以参考我这一篇:Dify安装时会遇到的网络问题,已成功安装
并且欢迎关注我的 社区版 Dify 开发专栏

Dify 部署LLM 可以参考这里

Dify 实现中文文生图,Dify+LLM+ComfyUI ,这篇详细介绍过LLM如何接入,并且详细介绍了如何接入Ollama 运行本地大模型。

Dify实现多模态聊天

1. ollama安装多模态大模型

也就是Vision, 视觉的大模型。其实在OpenAI ,Qwen 上也有API版本的大模型支持Vision ,看到这个眼睛的 标记的模型都是支持Vision 的,简单地说就是你可以上存图像上去聊天!
在这里插入图片描述

2. 重点介绍和推荐 使用下 llama3.2-vision

为什么呢?因为目前来说 ,算是比较好的!
装好Ollama之后,(如果没装看这里) 去Ollama 仓库看一下,然后 按照指示pull 下来

ollama run llama3.2-vision  

这样就是11b 参数的 llama3.2 Vision
x在这里插入图片描述
按照这里的方法,可以轻松导入到Dify。

Dify 搭建chatflow 图像聊天

在这里插入图片描述
最简单的版本,就三个节点。你可能很感兴趣:

LLM怎么设置和怎么实现中文

请看,在system 里面加上你的 要求 就行了,让它说中文!
sys.query 就是你聊天的输入内容,LLM 会知道你上存的图像。
在这里插入图片描述

一些点睛之处

发布之前,在功能打开这几个配置,可以有很好的效果,特别是下一个问题建议 !!!
在这里插入图片描述
至此,轻松实现多模态聊天了,还是免费的,效果如下:
在这里插入图片描述


http://www.kler.cn/a/454864.html

相关文章:

  • 中关村科金外呼机器人智能沟通破解营销难题
  • javaweb 04 springmvc
  • 通过交叉实现数据触底分页效果new IntersectionObserver()(html、react、vue2、vue3)中使用
  • Merry Christmas HTML
  • MySQL外键类型与应用场景总结:优缺点一目了然
  • Unity2021.3.16f1可以正常打开,但是Unity2017.3.0f3却常常打开闪退或者Unity2017编辑器运行起来就闪退掉
  • 设计模式-创建型-工厂方法模式
  • 上位机开发 的字符串处理
  • 【206】图书管理系统
  • 实现类似gpt 打字效果
  • 提示词工程教程(七):小样本和上下文学习
  • Stability AI 新一代AI绘画模型:StableCascade 本地部署教程
  • Zookeeper下面的conf目录下面的zoo.cfg
  • JavaScript(一):变量与常量
  • 微信小程序与蓝牙模组通信
  • 计算机网络习题(第1章 概论 第2章 数据通信基础)
  • OpenCV 入门
  • Java重要面试名词整理(六):MongoDB
  • 3D云展厅平台如何提升教育覆盖面?
  • Bluetooth Spec【0】蓝牙核心架构
  • 【入门】买杯子
  • QTDemo:串口调试工具
  • Rust使用国内源加速在线安装开发环境搭建
  • leetcode热题100(240. 搜索二维矩阵 II)c++
  • 蓝桥杯——最小的或运算
  • 【MATLAB】股票(和指数)数据下载--雅虎财经