当前位置：首页 > article >正文

总结之Coze 是一站式 AI Bot 开发平台——工作流使用及coze总结（三）

article 2024/9/30 23:40:42

工作流介绍

工作流支持通过可视化的方式，对插件、大语言模型、代码块等功能进行组合，从而实现复杂、稳定的业务流程编排，例如旅行规划、报告分析等。
当目标任务场景包含较多的步骤，且对输出结果的准确性、格式有严格要求时，适合配置工作流来实现。

功能概述

工作流由多个节点构成，节点是组成工作流的基本单元。例如，大语言模型 LLM、自定义代码、判断逻辑等节点。工作流默认包含了 Start 节点和 End 节点。
Start 节点是工作流的起始节点，可以包含用户输入信息。
End 节点是工作流的末尾节点，用于返回工作流的运行结果。

工作流节点

工作流通用节点及说明

节点名称	描述
大模型	大语言模型节点，该节点支持选择不同的 AI 模型处理文本生成任务。
代码	代码节点。通过 IDE 编写代码处理输入参数，并返回输出值。
知识库	知识库节点。根据输入参数从关联知识库中召回数据，并返回。
条件	if-else 逻辑节点。满足设置条件则运行 if 分支，否则运行 else 分支。
变量	变量节点。用于读取和写入 Bot 中的变量。
循环	通过设置循环次数和逻辑，来实现重复执行一系列任务。
工作流	集成已发布的工作流，可以嵌套子任务。

coze额外节点及说明

节点名称	描述
插件	coze的插件节点，可以实现指定功能，比如封装的gpt4调用、头条搜索等功能，可以自定义插件。
图像流	集成图像流，可以嵌套子任务。
数据库	可支持对 Database 放开读写控制，用户可读写其他用户提交的数据，由开发者控制。需要提前在 Bot 的 Database 中添加 Table。
长期记忆	用于调用Long-term Memory，获取用户的个性化信息，对应的Bot必须打开了LTM
文本处理	用于处理多个字符串类型变量的格式

通过使用场景介绍节点功能

简单场景

1、调用插件

比如调用图片理解插件，解析图片内容，当然还有很多插件，其插件特定和功能不一样，可以理解成插件就是封装的应用程序，里面也是代码逻辑、大模型交互等实现。可以自定义插件。
在这里插入图片描述

2、调用大模型

通过使用大模型（LLM）节点，设置大模型的模型类型，模型参数，输入参，输出参，提示词等调用大模型。支持批处理。当批处理有能力限制，并发最高10，一批次任务最高200。

在这里插入图片描述

3、使用代码实现指定逻辑

以下面为例，处理输入大模型的变量。
在这里插入图片描述

复杂场景

调用插件、LLM、子流程、代码、条件等实现特定业务场景，如：分析图片内容，并且优化文本，提炼文本骨干，聚合文本信息

条件判断作用：如何插件获取内容失败，直接结束。
代码作用：作为适配器，调整输入输出参数，方便使用以发布的子流程。
在这里插入图片描述

使用循环体

通过循环体实现业务功能

在这里插入图片描述

COZE总结

优点：

1、一站式服务，开发成本低，对开发人员要求低。
2、方便快捷的搭建自己的LLM工作流。
3、学习成本较低，上手快。
4、接入方便，可以通过bot或者直接使用工作流的方式接入，bot还可以发布到豆包、飞书等字节旗下平台中。

缺点：

1、使用coze的工作流、大模型、bot都需要收取费用，如果工作流中没有大模型交互也是要有费用产生。调用其他模型也需要key。但整体成本还好，费用不高。
2、coze插件能力有限，除了字节跳动自己应用的扩展功能，如短视频内容提取、头条搜索、抖音搜索等。
3、存在bug，coze还是在不断迭代过程，会出现使用上bug。特别是它集成了很多东西，复杂组合后，出现问题对生产端是致命的。
4、日志体系不完善，调试内调用还可以看出工作流哪里有问题，如果发布成API调用，日志不方便实时查询，排查需要时间。
5、插件、或者发布的工作流存在并发问题
如：图片理解插件其内部实现就是单线程不支持并发，并发报错，这是官方插件，并且插件描述没有提及。这样的坑估计不少。
工作流也会出现并发后连续失败，流程本身没有问题。超过20就出现了。