降低生成式AI门槛，亚马逊云科技Amazon Bedrock再次进化

如今，生成式AI催生的应用正在成为人工智能浪潮的主流，但对于企业来说，要实现生成式AI应用的落地还面临诸多挑战，如底层算力资源短缺、缺乏合适的模型工具、缺少匹配自身业务需要的应用等。

面对这些挑战，亚马逊云科技为了进一步降低企业落地生成式AI的门槛，已经推出了三层生成式AI技术栈，分别是基础设施层，打造以GPU和自研芯片为代表的基础设施；模型工具层，提供以Amazon Bedrock为代表，可以访问所需基础模型，以及构建和扩展生成式AI应用程序的工具；应用层，提供可以构建开箱即用的生成式AI应用程序。

其中，模型工具层对于大部分企业来说至关重要，因为企业在构建生成式AI应用时，通常是从选择既有基础模型入手，而不是直接参与构建基础模型。而发布于2023年4月的Amazon Bedrock，作为亚马逊云科技的一项完全托管服务，就是让用户能够更加安全便捷地访问市场上全面、高性能、完全托管的基础模型。

为了进一步降低企业应用生成式AI的门槛，在日前召开的2024 re:Invent大会期间，Amazon Bedrock更是一口气发布了21项新特性，包括模型选择全面升级，成本、速度、准确率全面优化，私有数据更易使用，以及安全进阶新功能和多智能体协作功能等，这无疑可以让企业能够以更低的成本、更高的效率开发生成式AI应用，加速生成式AI的深入应用。

聚焦应用痛点，Amazon Bedrock全面进阶

亚马逊云科技基于对客户需求和生成式AI痛点的深入洞察，已经完成了对Amazon Bedrock的全面升级。具体来说，Amazon Bedrock的21项新特性主要集中在以下五个层面：

首先，模型选择全面升级。除Amazon Nova全家桶外，Amazon Bedrock还引入了LumaAI的Ray2、poolside的malibu和point、Stable Diffusion 3.5，并通过新推出的Amazon Bedrock Marketplace提供100+热门、新兴及专业模型的访问权限，可以满足更多应用场景需要。

其次，成本、速度、准确率全面优化。Amazon Bedrock推出了低延迟优化推理功能、模型蒸馏、提示词缓存、提示词智能路由等功能，能够有效降低模型推理成本。比如，提示词缓存功能最高可将成本降低90%，并将延迟最多缩短85%；提示词智能路由功能将成本降低多达30%；模型蒸馏可实现提速500%，运行成本降低75%。

第三，Amazon Bedrock知识库新增对结构化数据和GraphRAG的支持，并能够将非结构化多模态数据转换为结构化数据，从而能够更方便地利用私有数据来定制生成式AI。

第四，Amazon Bedrock推出自动推理检查功能，能够防止模型幻觉导致的事实性错误。正如亚马逊云科技大中华区产品部总经理陈晓建所说：“以前大模型缺乏可证明事实的逻辑，导致出现幻觉时难以纠正；但有了自动推理技术，我们能够通过数学验证方式严密证明事实性错误是否会发生，从而有效改善幻觉问题。”

第五，Amazon Bedrock智能体功能可以让客户轻松构建智能体，并使其能够跨公司系统和数据源工作；同时支持多智能体协作，使客户能够轻松地构建和协调专业智能体来执行复杂的工作流程。

进一步降低生成式AI门槛，释放AI技术生产力

对于生成式AI的应用，在陈晓建看来，2024年，许多客户已经从思考阶段进入实践阶段，并进行了大量场景试验；进入2025年，客户将从原型验证阶段迈向生产阶段，而亚马逊云科技开发Amazon Bedrock的目的不仅是提供模型，更重要的是提供能让模型推理运行时所需的各种生产力工具和生产环境工具，这才是Amazon Bedrock的真正价值所在。

亚马逊云科技CEO Matt Garman表示：“如今，每天都有数以万计的客户在生产应用中使用Amazon Bedrock，仅去年其使用量就增长了近5倍。”包括SAP、宝马、Zendesk、穆迪等多家企业都正在借助Amazon Bedrock的应用，实现人工智能在企业业务场景的落地，并取得了显著成效。

SAP正在将Amazon Nova模型集成到SAP AI Core生成式AI中心支持的大语言模型（LLMs）家族中，从而使开发者能够为SAP的AI助手Joule创建新技能，并利用SAP数据中完整的业务上下文，安全地构建AI驱动的解决方案，实现自动化、个性化以及供应链规划等高级功能。

宝马集团将为旗下的My AI Assistant（MAIA）实施GraphRAG，借助由Amazon Neptune支持的GraphRAG自动化图形建模功能，宝马集团能够依据数据使用情况，持续更新MAIA所需的知识图谱，从其数据资产中提供更具相关且全面的洞察，进而持续为数百万车主打造优质体验。

Zendesk作为一家全球服务软件公司，正在借助Amazon Bedrock中用于翻译的Widn.AI等专用模型，通过电子邮件、聊天、电话以及社交媒体对客户服务请求进行个性化和本地化处理，从而让客服人员能够更好地理解客户母语表达中的情绪或意图等，最终提升客户服务体验。

穆迪公司正在利用Amazon Bedrock创建智能体，为每个智能体分配特定的任务，并允许其访问量身定制的数据集，以履行其职责。同时，借助Amazon Bedrock多智能体协作功能来增强公司风险分析工作流程，使公司能够提供更快、更准确的风险评估，巩固其作为金融决策领域值得信赖的权威机构的声誉。

随着生成式AI逐渐深入应用到越来越多的企业业务场景中，Amazon Bedrock凭借广泛而领先的模型选择、可轻松基于自身数据进行定制的工具、内置的负责任的AI功能以及开发复杂智能体的能力，正在成为越来越多客户的选择。尤其是Amazon Bedrock此次一系列新功能的发布，可以让开发人员轻松地构建和扩展生成式AI应用程序，并帮助企业规避生成式AI应用推向核心业务时面临的诸多挑战，从而进一步降低生成式AI应用的门槛，充分释放生成式AI的潜力。