如何入门AI Agent?
随着chatgpt问世,大模型已经在加速各行各业的变革,这是我之前对AI Agent行业的粗浅判断。
下面给大家介绍一下如何制作AI Agent,我会用我开发的全赞AI为例子进行简要的介绍,下面是一种工具型AI Agent的框架图
这是一个大量使用工具的Agent。Agent需要基于LLM才能正常工作,这里面有两种选择,要么直接用chatgpt的gpt4 api, 要么自己基于开源的大模型finetune一个自己的(我之前也有文章介绍过如何使用阿里云进行finetune)。前者需要你有一个国外的服务器(CPU即可,不需要GPU),并且按需付费;后者需要有自己的GPU并且需要你有finetune的能力。
搞定了LLM,就是用langchain这个粘合剂来做一些提示词工程了,这是一个插画家的Agent的提示词内容。
当然为了支持上下文,你需要用数据库记住用户和AI的问答内容,
最后就是初始化这个agent。
你会发现这里面还有一堆的tools,因为我之前就有几百个工具API的积累,我直接用restful api引入就可以了。比如文生图我直接发个请求就行了。
当然,上面这个是一种比较简单的Agent,还有一些Agents需要做语义搜索,比如知识库搜索等,这里需要使用向量数据库。比如下面这个首席商务官的机器人,需要从几千个行业报告中获取答案。大体的制作过程是你先要准备好你的知识库文档(pdf,txt等等),然后获取这些文档的embeddings, 可以用OpenAIEmbeddings(不贵,但是得注意频率,太快会出错),然后将得到的这些embeddings存到向量数据库中(例如FAISS),准备工作做好之后,当用户有问题,也是将用户的问题转成embedding,然后去向量数据库中搜索答案。
当然,在制作的过程中会发现很多很多的问题,例如prompt老是不听使唤,即使答案已经摆在那儿了,Agent还是返回一堆废话,这就需要一定的debug能力了,非一日之功,得慢慢培养。