利用逻辑思维链（CoT）为金融AI消除幻觉（上）

金融行业中的生成式AI应用面对的挑战

基础模型和生成式AI正在改革金融服务机构Fintech行业的核心业务功能。金融行业目前有很多客户，如纳斯达克（NASDAQ）、印度国家银行（State Bank of India）和桥水基金（Bridgewater），已开始利用AI重新定义业务运营并提升业务效率。

然而AI的本质上是概率模型，能够生成多种可能的输出。尽管这些模型能够通过预训练、微调和Prompt Engineering（提示工程）实现复杂的推理能力，但它们的决策过程仍然比传统预测方法不透明。虽然一些新兴技术（如工具调用和检索增强生成（RAG））旨在提升透明度，但它们仍然依赖于概率机制，如检索相关上下文或选择合适工具。同时诸如注意力可视化（Attention Visualization）和提示词追踪（Prompt Tracing）等方法，也仅能提供概率性见解，而非确定性的解释。

对于运营在高监管行业（如保险、银行、支付和资本市场）的企业而言，AI决策的透明性至关重要，他们希望能够以传统确定性的准则来开发AI驱动的应用程序。为了解决这一挑战，亚马逊云科技在Amazon Bedrock Guardrails中就提供了自动推理检查（Automated Reasoning checks）功能。

自动推理检查可以检测幻觉（hallucinations）、建议修正，并突出生成式AI应用响应中的未陈述性假设问题。更重要的是，它可以使用数学上可验证的确定性形式逻辑来解释为什么某个声明是准确的。这一功能改变了AI应用程序的透明性方法，使其在金融服务机构常见的流程型工作流中，增加了可验证的、确定性的审查能力。本文将探讨自动推理检查如何在保险法律审查、承保规则验证和理赔处理等金融服务场景中发挥作用。

什么是数学逻辑推理？如何助力金融行业？

自动推理（Automated Reasoning）是一种计算机科学领域的技术，专注于数学证明和逻辑推理。它类似于审计人员验证财务报表，或合规官员确保系统符合监管要求。与传统的机器学习（ML）依赖概率的方法不同，自动推理工具使用数学逻辑来明确验证系统是否符合预定规则，并确保在给定假设下AI的行为是可预测的。Amazon Bedrock Guardrails中的自动推理检查，是目前全球主流云计算厂商中第一个在生成式AI安全领域推出的相关功能。

自动推理在金融行业场景的举例

首先假设我们有以下基本交易规则：

• “如果交易金额超过100万美元，并且客户不是一级评级客户，则需要额外批准。”

自动推理系统会将该规则拆解为逻辑组件：

• 交易金额 > 1,000,000
• 客户评级 ≠ 一级
• 结果：需要额外批准

当系统接收到具体交易数据时，它可以提供一个确定性（yes/no）答案，并明确其推理过程。例如：

• 场景A – 交易金额$1.5M，客户评级Tier-2 → 需要额外批准（满足两个条件）
• 场景B – 交易金额$2M，客户评级Tier-1 → 不需要额外批准（未满足第二个条件）

自动推理的独特之处在于，它从根本上不同于生成式AI常见的概率性方法。自动推理提供确定性结果，即相同的输入始终产生相同的输出，并且像DeepSeek一样可以追溯推理的链路，确保每个结论都可验证。这种数学上的确定性，使得自动推理在监管合规、交易规则验证、访问控制管理和政策执行等场景中尤为重要。

自动推理的局限性

需要注意的是，自动推理无法预测未来事件或处理模棱两可的场景问题，也无法像ML模型那样从新数据中学习提升其自动推理能力。它要求其预定义规则必须被精确、正式地定义，因此不适用于依赖人类主观判断的决策。但这正是生成式AI与自动推理结合的价值所在——前者提供灵活性，后者提供确定性校验。

随着各大金融公司寻求在决策流程中集成生成式AI，Amazon Bedrock Guardrails的自动推理检查（Automated Reasoning checks）为在生成式AI任务流中引入确定性验证提供了一种有效方式。自动推理检查能够对模型输出与预定义规则进行确定性验证，并提供完整的审计记录及数学证明，确保输出内容遵从预定义策略。这一能力在合规性要求严格的流程（如风险评估、合规监控和欺诈检测）中尤为关键，因为这些流程要求高度的准确性和治理能力。

最重要的是自动推理检查通过其确定性规则校验和可解释的审计追踪机制，有效解决了生成式AI在应用中的主要障碍之一——模型幻觉（hallucination）。这一问题使得模型可能会生成不可靠或不忠实于任务要求的响应，而自动推理检查能够提供可验证、可解释的方式来确保模型输出的可靠性，从而提升生成式AI在金融服务等监管行业的可用性和信任度。

将自动推理检查应用于金融服务

自动推理的最佳应用场景，是那些可以被转化为一组逻辑规则的流程或工作流。例如在金融服务行业应用开发过程中。

• 编写固定的应用程序实现的硬编码检查规则虽然能够提供确定性的应用输出，但难以维护且要求严格的输入格式，影响用户体验。

• 生成式AI提供更大的灵活性，但由于其“黑箱”特性，难以审计，且可能产生幻觉（hallucinations）。

自动推理检查能够解决这一挑战，为AI的输出结果自动就可以增加确定性验证，其工作原理如下所示：

解决方案概述

上面的流程图展示了如何结合生成式AI和自动推理，对AI的输出都进行逻辑推理验证：

1. 将源文档和意图指令传递给自动推理检查服务，以构建验证规则和变量，并创建自动推理检查策略。

2. 生成的自动推理检查策略被版本化并存储。

3. 该策略及其版本被关联到Amazon Bedrock Guardrail。

4. 用户通过ApplyGuardrail API调用大模型，将问题和AI生成的回答提交至Guardrail。

5. 自动推理检查模型解析输入和AI生成的响应，开始建立逻辑思维链表达。

6. 自动推理检查基于提供的源文档中的规则和变量执行验证，生成最终确定性逻辑思维链表达。

7. 逻辑检查结果返回给用户，并提供推理过程中参考的具体的规则、变量及其取值，以及如何使模型产生的断言结论成立的建议。

实验实操

实验前提条件

在使用Amazon Bedrock Guardrails的自动推理检查前，确保以下条件：

• 具备亚马逊云科技账户，可访问Amazon Bedrock服务。

• 配置适当的IAM用户权限，允许调用Amazon Bedrock API。

解决方案实施

要在Amazon Bedrock Guardrails中构建自动推理检查，按以下步骤操作：

1. 进入Amazon Bedrock控制台，在导航面板中选择“Safeguards”，然后点击“Automated Reasoning”。

   2. 创建新策略（Create Policy），输入以下内容：

• Name：自动推理检查策略的名称。
• Description：描述策略用途。
• Source Content：上传包含规则定义的PDF文档。
• Intent：定义规则和变量的方式。

    3. 保存并版本化策略，然后将其绑定到Amazon Bedrock Guardrails。

总结

本文探讨了自动推理检查如何增强生成式AI在金融服务行业中的应用，提供可验证的确定性透明度。借助Amazon Bedrock Guardrails的自动推理检查，金融行业的AI应用可以：

1. 减少模型幻觉，确保生成式AI输出符合监管要求。

2. 提供数学可验证的逻辑推理链，提升金融决策透明度。

3. 优化风险管理、交易验证、合规性审核，在金融流程中实现可靠的AI辅助决策。

这一能力不仅提升了金融行业对生成式AI的信任，也为未来更多监管行业落地AI应用提供了可行思路。接下来我们将继续介绍自动推理检查，在3个不同金融场景下的具体应用配置和测试效果，欢迎大家持续关注。