当前位置: 首页 > article >正文

如何入门AI Agent?

随着chatgpt问世,大模型已经在加速各行各业的变革,这是我之前对AI Agent行业的粗浅判断。

图片

下面给大家介绍一下如何制作AI Agent,我会用我开发的全赞AI为例子进行简要的介绍,下面是一种工具型AI Agent的框架图

图片

这是一个大量使用工具的Agent。Agent需要基于LLM才能正常工作,这里面有两种选择,要么直接用chatgpt的gpt4 api, 要么自己基于开源的大模型finetune一个自己的(我之前也有文章介绍过如何使用阿里云进行finetune)。前者需要你有一个国外的服务器(CPU即可,不需要GPU),并且按需付费;后者需要有自己的GPU并且需要你有finetune的能力。

搞定了LLM,就是用langchain这个粘合剂来做一些提示词工程了,这是一个插画家的Agent的提示词内容。

图片

当然为了支持上下文,你需要用数据库记住用户和AI的问答内容,

图片

最后就是初始化这个agent。

图片

你会发现这里面还有一堆的tools,因为我之前就有几百个工具API的积累,我直接用restful api引入就可以了。比如文生图我直接发个请求就行了。

图片

当然,上面这个是一种比较简单的Agent,还有一些Agents需要做语义搜索,比如知识库搜索等,这里需要使用向量数据库。比如下面这个首席商务官的机器人,需要从几千个行业报告中获取答案。大体的制作过程是你先要准备好你的知识库文档(pdf,txt等等),然后获取这些文档的embeddings, 可以用OpenAIEmbeddings(不贵,但是得注意频率,太快会出错),然后将得到的这些embeddings存到向量数据库中(例如FAISS),准备工作做好之后,当用户有问题,也是将用户的问题转成embedding,然后去向量数据库中搜索答案。

图片

当然,在制作的过程中会发现很多很多的问题,例如prompt老是不听使唤,即使答案已经摆在那儿了,Agent还是返回一堆废话,这就需要一定的debug能力了,非一日之功,得慢慢培养。


http://www.kler.cn/a/234672.html

相关文章:

  • mysql性能问题排查
  • 论文阅读 - 《Large Language Models Are Zero-Shot Time Series Forecasters》
  • QT-【常用容器类】-QList类 QLinkedList类
  • CTF MISC 简单的脚本的撰写 -- 进制转换篇
  • OAuth 2.0
  • Flink调优----资源配置调优与状态及Checkpoint调优
  • C++函数对象-运算符函数对象 - 逻辑运算 - 实现 !x 的函数对象 (std::logical_not)
  • Java 集合、迭代器
  • 跟着cherno手搓游戏引擎【24】开启2D引擎前的项目总结(包括前置知识汇总)
  • 【大厂AI课学习笔记】【1.6 人工智能基础知识】(2)机器学习
  • 07-Java桥接模式 ( Bridge Pattern )
  • 网络学习:数据链路层VLAN原理和配置
  • tkinter-TinUI-xml实战(10)展示画廊
  • mac卸载被锁定的app
  • 《CSS 简易速速上手小册》第4章:视觉美学(2024 最新版)
  • Python for 循环
  • 常见性能优化策略
  • CVE-2012-2311 漏洞复现
  • 计算机网络(第六版)复习提纲29
  • spring boot 通过 application 切换cache使用的服务
  • React18原理: 再聊Fiber架构下的时间分片
  • 前端JavaScript篇之ajax、axios、fetch的区别
  • 【LeetCode每日一题】二维前缀和基本概念与案例
  • 剪辑思维大学习(Day5) - 剪辑时如何找到合适的音乐?!
  • #Z2322. 买保险
  • 【自然语言处理-工具篇】spaCy<2>--模型的使用