Amazon Bedrock AgentCore 实践:AWS 如何构建多智能体统一客户智能系统 CAKE
内容评分
摘要
本文介绍了 AWS 基于 Amazon Bedrock AgentCore 构建的 Customer Agent & Knowledge Engine (CAKE),一个旨在解决企业内部客户数据分散、难以整合痛点的多智能体聊天机器人。CAKE 通过统一的对话界面,聚合来自 Amazon Neptune(知识图谱)、DynamoDB(指标)、OpenSearch Service(文档)及外部 Web 搜索的数据。其核心亮点在于利用 Bedrock AgentCore 实现动态意图分析、并行工具执行、多源结果综合及行级安全(RLS),能在10秒内提供个性化客户洞察,并理解数据间的语义关系。Amazon Bedrock AgentCore 作为托管服务,简化了多智能体系统的开发,让团队能专注于业务逻辑,而非底层分布式基础设施,为构建企业级AI助手和跨数据源协作系统提供了高效模式。
正文
在企业内部构建连贯且统一的客户智能系统,首要任务是减少销售代表在不同系统(如 Salesforce、支持工单、Amazon Redshift)间切换时的操作摩擦。例如,一位准备与客户会面的销售代表,可能需要花费数小时浏览多个不同的仪表板——产品推荐、客户参与度指标、收入分析等——才能全面了解客户情况。在 AWS,我们的销售团队在全球扩展过程中深切体会到这一挑战。我们需要一种方法,能够在指标数据库、文档存储库和外部行业来源之间统一这些孤立的客户数据,而无需自行构建复杂的协调基础设施。
为此,AWS 开发了 Customer Agent & Knowledge Engine (CAKE),一个以客户为中心的聊天机器人,它正是利用 Amazon Bedrock AgentCore 来解决上述痛点。CAKE 能够协调多种专用检索工具:包括查询 Amazon Neptune 中的知识图谱、Amazon DynamoDB 中的指标数据、Amazon OpenSearch Service 中的文档信息,以及通过 Web 搜索 API 获取的外部市场数据。同时,它还通过 行级安全(RLS) 工具确保数据安全,并能在 10 秒内通过自然语言查询提供客户洞察(这一点已在机器人负载测试中得到验证)。
本文将通过 CAKE 的实际应用,展示如何使用 Amazon Bedrock AgentCore 构建统一的智能系统。通过 Amazon Bedrock AgentCore,您可以构建自定义机器人,实现以下功能和优势:
- 通过动态意图分析与并行工具执行来协调各种工具
- 集成 Neptune、DynamoDB、OpenSearch Service 等专用数据存储,并实现并行协调机制
- 在工作流程中实施行级安全性和治理措施
- 采用生产级工程实践确保系统可靠性,包括基于模板的报告生成,以符合业务语义和格式要求
- 通过模型灵活性优化系统性能
这些架构模式可以帮助您加速不同用例的开发,包括客户智能系统、企业 AI 助手或跨多个数据源协作的多系统。
为什么需要统一的客户智能系统? 随着销售团队在全球范围内的扩展,他们通常面临三个关键挑战:
- 数据分散在各种专用工具中(如产品推荐、参与度仪表板、收入分析等),收集全面客户信息需要花费大量时间;
- 传统数据库难以捕捉指标间的语义关系,导致业务逻辑理解不足;
- 手动整合流程难以随数据量增长而扩展。 因此,一个能够聚合客户数据、理解语义关系,并在业务背景下分析客户需求的统一智能系统变得至关重要。CAKE 正是解决这些问题的关键工具。
解决方案概述: CAKE 作为一个以客户为中心的聊天机器人,旨在将分散的数据转化为统一且可操作的智能洞察。通过将内部和外部数据源/表格整合到一个对话端点,CAKE 能在 10 秒内提供个性化的客户洞察。与传统工具仅报告数字不同,CAKE 的语义基础能够捕捉业务指标、客户行为、行业动态及战略背景之间的深层意义和关系,从而解释客户情况的成因并提供应对策略。
Amazon Bedrock AgentCore 作为一项托管服务,为多 AI 系统提供了必要的运行时基础设施,包括间通信、并行执行、对话状态跟踪和工具路由等核心功能。这使得开发团队能够专注于定义行为和业务逻辑,而无需自行实现复杂的分布式系统基础设施。
对于 CAKE,我们在 Amazon Bedrock AgentCore 上构建了一个自定义,该协调了五种专门设计的工具:
- Neptune 检索工具:用于查询知识图谱中的关系
- DynamoDB 机器人:用于即时查询指标
- OpenSearch 检索工具:用于语义文档搜索
- Web 搜索工具:用于获取外部行业信息
- 行级安全(RLS)工具:用于确保数据安全
下图展示了 Amazon Bedrock AgentCore 如何支持这些组件的协调工作。
当接收到一个查询(例如“这个客户的最佳扩展机会是什么?”)时,解决方案会经历以下几个关键步骤:
- 分析意图并路由查询:运行在 Amazon Bedrock AgentCore 上的主管(Orchestrator )分析自然语言查询的意图,确定需要调用哪些专门工具。
- 并行调度工具:协调层会并行调度多个检索工具,充分利用 Amazon Bedrock AgentCore 的可扩展执行环境。自动管理执行生命周期,处理超时、重试和错误情况。
- 综合多个结果:当各工具返回结果后,Amazon Bedrock AgentCore 将这些部分结果汇总成连贯的答案,并分析不同数据源之间的关系,生成跨多个知识领域的综合洞察。
- 执行安全限制:在数据检索开始前,首先调用 RLS 工具确定用户权限,并确保后续工具调用严格遵循这些安全限制,从而有效防止未经授权的数据访问。
该架构基于两条并行路径运行:Amazon Bedrock AgentCore 提供实时响应用户查询的运行时环境,而离线数据管道则定期从分析数据仓库更新底层数据,确保信息的时效性。在后续部分,我们将讨论框架设计和核心解决方案组件,包括知识图谱、数据存储和数据管道。
智能体框架设计: 该多系统利用 AWS Strands Agents 框架,提供结构化的推理能力,同时满足监管合规性和可预测性能的要求。该框架支持从多种模型构建。主管分析传入查询,智能选择并调用专门及工具,并对用户查询进行分解。框架暴露了状态和输出,以实现和主管层面的去中心化评估。系统通过 GraphRAG 推理链实现自主推理,通过遍历知识关系构建确定的推理路径。在其专业领域内进行自主推理,同时遵循预定义的本体(Ontology)。
结论: 本文展示了 Amazon Bedrock AgentCore 如何支持 CAKE 的多架构。传统上,构建多 AI 系统需要大量的基础设施投资,包括实现自定义协调协议、管理并行执行框架、跟踪对话状态和处理故障模式等。Amazon Bedrock AgentCore 通过提供这些托管服务,极大地简化了这一过程。它提供了运行时基础设施和专门的数据存储,使团队能够专注于领域专业知识和客户价值,而无需从头开始构建复杂的分布式系统基础设施。
如需了解更多关于 Amazon Bedrock AgentCore 和多 AI 系统的信息,请参阅相关文档和研讨会。