AWS神经符号人工智能为受监管行业提供可验证的智能体自动化解决方案

亚马逊云科技（AWS）认为，将Bedrock平台的自动推理检查功能全面开放，将增强企业及受监管行业对采用和部署更多人工智能应用及智能体方案的信心。

该公司进一步预测，自动化推理等技术——通过数学验证建立基准事实——将助力企业向神经符号人工智能转型。AWS视此为人工智能领域下一阶段的重要演进，也是关键的差异化优势。

自动化推理检查功能使企业用户能够验证响应准确性并检测模型幻觉。AWS去年12月在re:Invent大会上首次在Bedrock平台推出该功能，宣称其可识别几乎所有幻觉。该工具最初通过Amazon Bedrock Guardrails向有限用户开放，允许组织制定负责任的AI政策。

AWS自动化推理部门杰出科学家兼副总裁拜伦·库克接受VentureBeat采访时表示，该预览版充分验证了系统在企业环境中的有效性，同时帮助企业认识到融合符号化结构推理与生成式AI神经网络能力的AI价值。

"自动推理属于神经符号AI的广义范畴，"Cook解释道，"用户在实际使用过程中，日益增长的神经符号AI热潮让他们深刻认识到这项技术的关键价值。"

库克指出，部分客户允许AWS分析其数据和答案注释文档。测试发现该工具的性能可媲美手持规则手册的人类专家。他补充道，尽管真理与正确性的概念可能具有主观性，但自动化推理在很大程度上规避了这种模糊性。

"这确实令人惊叹，"他说道，"看到具备逻辑背景的人员在内部聊天中争论何为真理，几轮讨论后指向工具并恍然大悟'哦，它是对的'，这种场景实在震撼。"

面向正式版，AWS为自动推理检查功能新增了多项特性：

• 支持长达8万个令牌（约100页）的大型文档
• 简化策略验证流程，支持保存并复用测试场景
• 基于预定义规范的自动场景生成
• 提供自然语言建议以优化策略
• 可自定义的验证设置

据库克介绍，自动化推理检查通过证明模型未虚构解决方案来验证AI系统的真实性。该功能可为担忧生成式AI非确定性特性导致错误输出的监管机构及受监管企业提供更强保障。

神经符号AI与真值确立

Cook强调，自动推理检查有助于验证神经符号AI的核心原理。

神经符号AI融合了神经网络（语言模型所用）的模式识别能力与符号AI的结构化逻辑。神经网络通过数据模式学习，而符号AI则基于显式规则和逻辑推理运作。基础模型主要依赖神经网络，使其易受幻觉影响——这是企业关注的重大问题。相反，符号AI在缺乏人工编程的情况下缺乏灵活性。

加里·马库斯等人工智能领域权威人士认为，神经符号人工智能是实现通用人工智能的关键。

库克和亚马逊云服务（AWS）热衷于将神经符号AI理念引入企业领域。在VentureBeat播客中，主持人马特·马歇尔探讨了AWS聚焦自动化推理检查等方法，通过为生成式AI注入数学与逻辑严谨性来减少幻觉现象。

目前提供产品化神经符号AI解决方案的企业寥寥无几，包括Kognitos、Franz Inc.和UMNAI。

运用数学严谨性进行验证

自动推理通过将数学证明应用于特定查询的模型响应来运作。

该技术采用"理论模数可满足性(SMT)"方法，通过预定义符号含义，同时解决逻辑（if, then, and, or）与数学问题。该方法将此技术应用于模型响应，使其无需多次测试即可对照政策集或基准数据进行验证。

例如，企业可能需要验证财务审计的正确性。当模型标记某份报告存在未经批准的付款时，自动推理会将其分解为逻辑陈述：

(forall ((r Report))

(=> (containsUnapprovedVendorPayments r)

(应上报 r)))

随后调用用户在Bedrock Guardrails中配置的定义、变量及类型，通过求解方程证明模型响应既正确又符合真实数据。

确保可验证正确的人工智能代理

Cook指出，自动化推理检查将显著提升智能体应用场景的效益。通过Bedrock平台的广泛应用将有助于验证其实用性。但他同时提醒，自动化推理及其他神经符号AI技术仍处于发展初期。

"我认为这将影响智能体AI领域，尽管该领域目前仍高度概念化，"库克表示，"现有若干关键技术——如识别语句中的歧义、精准定位不同解释间的差异点、进而寻求用户澄清——我认为至关重要。这与几年前客户开始尝试生成式AI时的情感历程如出一辙。"