用AI优化云平台上的企业客服通话满意度和工单解决效率（上）
在本文中，我们将介绍如何在亚马逊云科技（AWS）上对企业客服通话进行通话后分析（Post-Call Analytics）的解决方案，以利用生成式AI驱动的服务（如Amazon Bedrock和Amazon Q in QuickSight）在企业大规模的呼叫中心中生成深入的分析洞察。该方案能够提供深入的客户通话分析、围绕常见主题分类通话类型，并使呼叫中心的负责人能够通过自然语言查询问题。这一方案可以帮助企业优化产品体验和客户体验。
解决方案概述
从整体上看，该解决方案首先使用Amazon Transcribe将音频转换为文本记录，并使用Amazon Bedrock中的大模型生成和评估每个通话记录的总结。此外我们还可以使用Amazon Bedrock对单个通话执行问答（Q&A），或使用Amazon Q in QuickSight对多个通话内容进行分析。接下来我们将详细介绍这些组件及其使用的服务。
在现有的对话分析解决方案基础上，我们添加了以下服务：
- Amazon Bedrock
- Amazon Q in QuickSight
客户呼叫中心运营是一个动态的过程，随着客户需求的变化、市场需求的变化以及技术的进步，该行业每天正在快速地变革。要在竞争激烈的市场中保持领先，就需要一个灵活、可扩展且智能的解决方案，以适应不断变化的需求。
在此背景下，Amazon Bedrock成为开发生成式AI驱动解决方案以分析客户服务通话文本的非常理想的选择。该服务完全托管，并且提供来自领先AI厂商的多样化基础模型，企业和开发者可无缝集成最先进的AI大语言模型以执行文本分析任务。Amazon Bedrock支持微调（fine-tuning），可以利用企业内部的通话文本数据定制这些预训练模型，而无需专业的机器学习员工就可以在业务场景实现精准和高相关度的分析。此外Amazon Bedrock还支持与Amazon SageMaker等亚马逊云科技服务集成，简化部署流程，并提供可扩展的基础设施，以轻松适应不断增长的客户通话数量。
Amazon Bedrock的安全性高、数据隐私保障完善，并采用按需计费模式（pay-as-you-go），为开发者提供安全、灵活且具成本效益的云服务，进而可以充分利用生成式AI的能力提升客户服务分析质量，最终改善客户体验并提高运营效率。
此外结合企业数据、规范和行业特定信息的知识库，生成式AI模型能够提供更具上下文关联性、更准确且更有意义的分析洞察。挂载知识库可以使模型能够基于企业的专有名词、产品和业务流程进行理解和回复，从而在客户通话中提取更深层次的分析帮助企业进行业务决策。
在本应用场景中Amazon Bedrock用于生成通话文本的总结，并对其与基准数据集（Ground Truth Dataset）进行比对评估。其价值在于能够非常轻松地集成到现有的客服分析任务流和各种评估框架中。此外Amazon Bedrock提供多种模型选择，可根据不同场景选择最佳模型，增强了解决方案的灵活性。此外通过Amazon Bedrock的知识库，可以对通话记录进行简单存储和访问，同时提供AI安全治理措施，以构建负责任的AI应用。
Amazon Bedrock服务介绍
Amazon Bedrock是一个完全托管的生成式AI服务，可通过API访问AI基础模型，用户可以从多种AI模型中中选择最适合自身需求的模型。借助Amazon Bedrock的无服务器基础设施，用户可以快速上手，定制私有化的自定义模型，并通过亚马逊云科技工具和服务快速集成和部署模型到应用中，而无需管理底层基础设施。
Amazon Q in QuickSight服务介绍
Amazon Q in QuickSight是亚马逊推出的生成式AI助手，可通过AI驱动的商业智能（BI）加速业务决策并提高生产力。我们的客服分析解决方案包含以下AWS服务：
- AWS Lambda
- Amazon Simple Storage Service (Amazon S3)
- Amazon CloudFront
- Amazon Athena
- Amazon Comprehend
- Amazon Transcribe
- Amazon Cognito
该解决方案由以下模块组成：
- 电话元数据生成 - 通过Amazon Transcribe转换音频文件后，使用Amazon Bedrock的Anthropic Claude Haiku生成通话总结、问题类别、用户问题及其他对话相关的元数据。这一流程由AWS Step Functions服务调度完成。
- 基于单个通话的问答 - 如果需要针对特定通话进行问题查询（例如：“客户在某通话ID中有什么问题？”），可以使用Amazon Bedrock中的Anthropic Claude Haiku模型提供自然语言问答助手。该助手托管在CloudFront的网页应用中。
- 基于多个通话的问答（Q&A） - 若需要基于多个通话进行分析（例如：“客户通话中最常见的问题是什么？”），可以使用Amazon Q in QuickSight集成到分析系统界面中，以帮助商业分析人员可以通过自然语言与QuickSight交互，从数据和图表中步骤中提取数据洞察。
有关该客服分析解决方案的架构组件，包括文件导入、数据提取、数据存储和可视化以及网页应用的详细信息，请参考官方文档“使用亚马逊云科技语言AI服务进行通话后分析”。
解决方案架构
下图展示了该解决方案的云端架构。在原有的客服分析方案基础上，我们添加了客服通话评估框架、通话元数据生成以及Amazon Q in QuickSight等改进组件。
解决方案架构图：
该方案中的人工审核（human-in-the-loop, HITL）网页界面UI用于评估通话元数据生成质量和单个通话问答（Q&A）回复质量。Ragas是一个开源评估框架，专门用于评估由基础模型（Foundation Models, FMs）生成的文本质量。
-
Anthropic的Claude 3 Haiku用于通话数据分析
Claude 3 Haiku用于处理通话文本，用于生成总结、用户问题具体原因、问题是否解决、是否需要回拨处理等关键信息，以及AI建议的客户和客服需要的下一步行动（由生成式AI创建的字段）。与Claude Instant相比，Claude 3 Haiku的延迟更低。
结合链式思维推理模式（chain-of-thought reasoning），该模型在整体质量上表现客观（评估指标包括事实性、可理解性、相关性，评分范围为1-5，由领域专家SMEs评估得出的综合分数）。由于Amazon Bedrock的灵活性，用户可以根据不同应用场景选择最合适的模型，这增强了该解决方案的灵活和可扩展性。 -
Amazon Q in QuickSight的强大可视化和分析能力
Amazon Q in QuickSight能够通过直观的图表和表格深入分析数据并生成洞察。它不仅可以执行基本的数据计算，还能深入挖掘业务问题，并从多个维度分析数据，为业务分析提供重要价值。 -
HITL UI + Ragas指标在评估AI输出的质量
回答正确性、回答相关性、回答一致性和总结质量等指标被用于评估通话元数据信息生成和单个通话问答回复的质量。由于Amazon Bedrock支持多种AI模型，该评估框架可用于评估不同类型的模型，包括Anthropic的Claude Sonnet 3.5和Claude Haiku 3。
通话元数据生成
自动化生成通话元数据任务流包括使用Amazon Transcribe进行转录，将音频文件转换为JSON格式的通话文本记录。然后利用Amazon Bedrock和Amazon Comprehend为每个转录文本提取关键信息。下图展示了提取元数据的方案架构图。
在由Step Functions构建的自动化工作流中，Amazon Transcribe输出的通话转录文本，遵循以下示例中的格式：
{
call_id: <call id>,
agent_id: <agent_id>
customer_id: <customer_id>
transcript: """
Agent: <Agent message>.
Customer: <Customer message>
Agent: <Agent message>.
Customer: <Customer message>
Agent: <Agent message>.
Customer: <Customer message>
...........
"""
}下方这些元数据的由Amazon Bedrock生成。它提取了总结、用户问题的根本原因、主题和后续建议步骤，并回答了一些关键问题，例如通话是否为先前问题的回拨电话，以及问题是否最终得到解决。
提示词会存储在Amazon DynamoDB中，这个方式能够帮助客户在整体方案没有改动的情况下，通过变量修改提示词，并可以基于未来的业务需求，自由的添加由生成式AI生成的新的字段。以下截图展示了如何通过DynamoDB修改提示词。
客户通话问答方案
由Anthropic的Claude Haiku大模型驱动的客服通话聊天对话助手，主要是用于对某个客户通话的文本进行自然语言交互问答。该助手包含了上一节中生成的通话元数据以及Amazon Comprehend生成的通话情绪分析结果，并部署在由CloudFront托管的网页应用中。
用户可以在DynamoDB中自由修改提示词。以下截图展示该方案用户通话对话的提示词。
CloudFront托管的用户网页界面允许客服或客服主管分析特定通话，以了解额外通话的细节。以下截图展示了一个客服通话所获取的洞察。
以下截图是嵌入在同一个页面中的聊天助手。
总结
我们的客服通话分析方案基于亚马逊云科技的生成式AI服务（如Amazon Bedrock和Amazon Q in QuickSight），为企业客服通话提供通话后分析。通过Amazon Transcribe将音频转换为文本，并使用Amazon Bedrock提取摘要、问题根本原因、主题及后续建议步骤，同时结合Amazon Comprehend进行情绪分析。方案支持单个通话的问答（Q&A），并可通过Amazon Q in QuickSight进行多通话分析，使呼叫中心主管能通过自然语言查询获取洞察。此外通过DynamoDB存储了可调节的提示词，通过CloudFront托管了UI展示了通话细节并支持与通话交互，支持客服或主管深入分析通话数据，从而优化产品体验和客户服务效率。