基线代理 AI 系统架构

目录

建筑学

成分

结论

参考

附录

代理式人工智能系统旨在通过有限的直接人工监督解决复杂问题 [ 1 ]。这些系统由多个可对话的代理组成，这些代理可以相互对话，可以集中协调或以分散的方式自组织 [1, 2]。随着企业越来越多地使用多代理系统来自动化复杂流程或解决复杂任务，我们希望仔细研究一下此类系统的架构。

这些代理具有规划等能力，使它们能够预测未来状态并选择最佳行动来实现特定目标。它们还具有记忆能力，使它们能够回忆过去的互动、经历和知识，这对于保持任务的连续性和改进策略至关重要。此外，代理可以利用各种工具（包括 API 和外部软件）来执行代码、查询数据库和与其他系统交互 [1, 3]。这些工具的使用扩展了它们的功能，使它们能够执行各种操作。

由于代理可以采取行动、编写和执行代码，因此存在运行恶意代码或对主机系统或其他用户有害代码的潜在风险 [3]。因此，了解这些系统的架构对于沙盒代码执行、限制或拒绝对生产数据和服务的访问以及减轻故障、漏洞和滥用至关重要。

• Azure AI Studio  [5] 是一种托管云服务，用于训练、部署、自动化和管理机器学习模型，包括代理使用的大型语言模型 (LLM)、小型语言模型 (SLM) 和多模式模型。该平台提供了一套全面的工具和服务，以促进端到端机器学习生命周期。Azure AI Studio 的主要功能包括：

  • Prompt Flow  [6] 是一种开发工具，旨在简化生成式 AI 应用程序的整个开发生命周期。它支持创建、测试和部署提示流，这些提示流可用于根据给定的提示生成响应或操作。这些提示流可以部署到机器学习工作区，也可以容器化并部署到 Azure 容器应用或 Azure Kubernetes 服务 [7]。AI Studio 也可用于开发和部署这些提示流。

  • 托管在线端点 由代理和后端服务用于调用即时流程进行实时推理。它们为部署机器学习模型提供了可扩展、可靠且安全的端点，从而实现了实时决策和交互 [7]。

  • Azure AI 依赖项 包括支持 AI Studio 和相关项目运行的基本 Azure 服务和资源 [8]：

    • Azure 存储帐户 存储项目的工件，例如提示流和评估数据。它主要用于 AI Studio 管理数据和模型资产。
    • Azure AI Search是一项全面的云搜索服务，支持全文搜索、语义搜索、向量搜索和混合搜索。它为 AI 项目和代理提供搜索功能，对于实现检索增强生成 (RAG) 模式至关重要。此模式涉及从提示中提取相关查询、查询 AI 搜索服务，并使用结果使用 LLM 或 SLM 模型生成响应。
    • Azure Key Vault用于安全存储和管理代理、AI 项目和后端服务所需的机密、密钥和证书。
    • Azure 容器注册表 存储和管理代理、后端 API、业务流程协调程序和其他组件的容器映像。它还存储使用自定义运行时为提示流创建的映像。
    • Azure OpenAI 服务 支持自然语言处理任务，例如文本生成、摘要和对话。
    • Azure AI 服务 提供用于视觉、语音、语言和决策的 API，包括自定义模型。
      • 文档智能 从文档中提取数据进行智能处理。
      • Azure Speech 具有翻译功能，可将语音转换为文本，反之亦然。

      • 内容 AI 安全确保 AI 生成的内容符合道德且安全，防止产生或传播有害或有偏见的材料。

  Azure AI Studio 提供的这些组件和服务实现了复杂的 AI 解决方案的无缝集成、部署和管理，促进了 Agentic AI Systems 的开发和运行。