亚马逊云科技多项新功能与服务，助力各种规模的组织拥抱生成式 AI

从初创企业到大型企业，各种规模的组织都纷纷开始接触生成式 AI 技术。这些企业希望充分利用生成式 AI，将自身在测试版、原型设计以及演示版中的畅想带到现实场景中，实现生产力的大幅提升并大力进行创新。但是，组织要怎样才能在企业中引入生成式 AI 这项技术并真正落实起来呢？在与客户的交谈中我们得知，想要获得出色的安全性和隐私性、优异的扩展能力及性价比，最重要的是要获得与其业务契合的技术。

亚马逊云科技推出了新的功能和服务，助力各种规模的组织以极具创造性的方式来使用生成式 AI，从而构建新的应用程序，同时转变自己的工作方式。亚马逊云科技非常注重通过以下几种方式为客户提供协助：

• 让客户可以轻松构建内置安全性和隐私功能的生成式 AI 应用程序；

• 专注于为客户提供最具性价比的基础设施来使用生成式 AI，这样客户就可以训练自己的模型并大规模运行推理；

• 为企业提供生成式 AI 驱动型应用程序，来实现自身工作方式的转变；

• 将数据打造成客户的差异化竞争优势，让客户可以自定义基础模型（FM），让这些模型成为服务于客户业务、数据和公司的专家。

为了助力各大组织打造非凡的生成式 AI 体验，亚马逊云科技一直以来都在致力于与客户携手合作、共创辉煌，这些客户包括 BBVA、Thomson Reuters、United Airlines、Philips 以及 LexisNexis Legal & Professional。推出这些新功能之后，我们期待能够提高生产力、提升客户参与度并提供更加个性化的体验，从而助力公司实现工作方式的转变。

Amazon Bedrock 帮助构建内置安全性和隐私功能的生成式 AI 应用程序

多数企业对生成式 AI 可以带来的价值持乐观态度，同时也在深入研究这项技术，了解如何在生产环境中构建生成式 AI 系统。尽管生成式 AI 最近的发展引起了大众的广泛关注，但许多企业仍未能参与到这项巨大的技术变革中。客户透露，他们希望我们能够提供丰富的模型选择、安全性和隐私保证、数据优先的方法、经济高效的模型运行方式，以及提示工程、检索式增强生成（RAG）、代理等功能来创建自定义的应用程序。

因此，我们于 2023 年 4 月 13 日宣布推出了 Amazon Bedrock，这是一种使用基础模型构建和扩展生成式 AI 应用程序简单的方法。Amazon Bedrock 是一项完全托管的服务，提供各种来自领先提供商（包括 AI21 Labs、Anthropic、Cohere、Meta、Stability AI 和 Amazon）的高性能基础模型，以及客户构建生成式 AI 应用程序所需的广泛功能，可简化开发，同时维护隐私和安全。此外，在最近宣布的战略合作中，Anthropic 公司所有未来的基础模型都将在 Amazon Bedrock 中提供，让客户能够抢先体验各种独特的功能来实现模型定制和微调。

自 4 月以来，我们亲眼见证了 Coda、Hurone AI 和 Nexxiot 等初创企业；adidas、GoDaddy、Clariant 和 Broadridge 等大型企业；以及 Accenture、BCG、Leidos 和 Mission Cloud 等合作伙伴利用 Amazon Bedrock 在各行各业安全地构建生成式 AI 应用程序。像 Salesforce 这样的独立软件供应商（ISV）现在也在安全地与 Amazon Bedrock 集成，使其客户能够轻松构建生成式 AI 应用程序。客户正将生成式 AI 应用于新的使用案例；例如，首屈一指的旅游媒体公司 Lonely Planet 与我们的生成式 AI 创新中心合作，推出了一款可扩展的人工智能平台，该平台可在几分钟内整理书籍内容，提供统一且高度准确的旅行推荐，从而将行程生成成本降低了近 80％。

亚马逊云科技也在不断添加新功能，例如 Amazon Bedrock 的代理，以及对 Cohere 等新模型和 Anthropic 公司最新模型的支持，以便为我们的客户提供更多选择，让客户能够更轻松地创建基于生成式 AI 的应用程序。Bedrock 的代理具有划时代的意义，其支持 LLM 根据您自己的数据和 API，私密且安全地完成复杂的任务，只需几分钟即可完成设置（无需进行训练或微调）。

以下几项新功能可以让您的组织更轻松地引入生成式 AI 这项技术：

• 正式推出 Amazon Bedrock，助力更多客户构建和扩展生成式 AI 应用程序；

• 通过 Llama 2 （将在未来几周内推出）和 Amazon Titan Embeddings 扩展了模型选择，让客户具备更多选择和灵活性，方便其为每个使用案例找到合适的模型，并利用 RAG 技术取得更好的成果；

• Amazon Bedrock 是一项符合 HIPAA 标准的服务，可在遵循 GDPR 的情况下使用，从而让更多客户获益于生成式 AI 这项技术；

• 预调配吞吐量，确保即使在流量高峰时段，也能获得始终如一的用户体验。

随着 Amazon Bedrock 的正式推出，将有更多的客户能够接触到 Bedrock 全面的功能。客户可以轻松地尝试各种顶级基础模型，通过微调和 RAG 等技术使用其数据进行私密定制，并创建托管代理来执行复杂的业务任务，包括从预订旅行行程和处理保险理赔，到创建广告活动和管理库存等，所有这些工作无需编写任何代码即可完成。由于 Amazon Bedrock 是无服务器模式，因此客户无需管理任何基础设施，并且可以使用自己已经熟悉的亚马逊云科技服务将生成式 AI 功能安全地集成和部署到其应用程序中。

其次，丰富的模型选择一直以来都是 Amazon Bedrock 为我们的客户提供独特、差异化服务的基石。在采用生成式 AI 的早期阶段，没有一个模型可以解锁生成式 AI 的全部价值，而客户需要能够使用一系列高性能模型。因此亚马逊云科技也正式推出了 Amazon Titan Embeddings，Meta 的下一代大型语言模型（LLM）Llama 2 也将在未来几周内推出，与现有的模型提供商 AI21 Labs、Anthropic、Cohere、Stability AI 和 Amazon 一起，进一步提高客户在模型选择方面的多样性和灵活性。

Amazon Bedrock 是首个完全托管的生成式 AI 服务，可通过托管式 API 提供 Meta 的下一代大型语言模型 Llama 2。相比于最初的 Llama 模型，Llama 2 模型有了显著的改进，例如，其训练数据多了 40%，并且使用更长的上下文长度（多达 4000 个令牌）来处理更大的文档。通过 Amazon Bedrock 提供的 Llama 2 模型已经进行过优化，可在 Amazon 基础设施上提供快速响应，非常适合对话使用案例。客户现在可以构建由 Llama 2 13B 和 70B 参数模型提供支持的生成式 AI应用程序，无需设置和管理任何基础设施。

Amazon Titan 基础模型是亚马逊云科技基于大型数据集创建和预训练的一系列模型，使其具备强大的通用功能，可支持各种使用案例。其中面向客户正式推出的第一个模型是 Amazon Titan Embeddings，这是一种 LLM，可将文本转换为数字表示形式（称为嵌入），从而支持 RAG 使用案例。基础模型非常适合执行各类任务，但其只能根据从训练数据和上下文信息中学到的知识回答问题，因此，当回复内容需要时效性较强的知识或专有数据时，其效力就会受到限制。

通用生成式 AI 应用程序，与真正了解您业务和客户的应用程序之间的真正区别在于数据。为了用更多数据优化基础模型的回复内容，许多组织转而采用 RAG 技术，这是一种流行的模型定制技术，其中基础模型会连接到一个知识源，然后可以参考该知识源来改进其回复内容。要着手使用 RAG，客户首先需要访问嵌入模型，将其数据转换为向量，从而让基础模型可以更轻松地理解数据之间的语义含义和关系。构建嵌入模型需要大量的数据、资源和机器学习专业知识，这让许多组织无法接触到 RAG 技术。Amazon Titan Embeddings 可以让客户更轻松地开始使用 RAG，利用其专有数据扩展任何基础模型的功能。Amazon Titan Embeddings 支持超过 25 种语言，上下文长度多达 8192 个令牌，因此非常适合根据客户的使用案例处理单个单词、短语或整个文档。该模型会返回 1536 个维度的输出向量，因而具有很高的精度，同时进行了优化，可获得低延迟、极具成本效益的结果。借助新的模型和功能，您可以轻松地将组织的数据用作战略资产，来自定义基础模型并构建更具差异化的体验。

第三，由于客户要用于定制的数据是非常宝贵的知识产权，因此他们需要确保这些数据的安全性和私密性。Amazon Bedrock 从一开始就内置了安全性和隐私功能，因此您完全可以放心，其中的数据均会受到保护。客户的数据均不会用于训练最初的基本基础模型。所有数据在静态和传输过程中都经过加密。而且，您可以期望获得与任何其他亚马逊云科技服务相同的 Amazon 访问控制。今天，我们非常高兴能再接再厉，推出新的安全和治理功能，Amazon Bedrock 现在是符合 HIPAA 标准的服务，可在遵循 GDPR 的情况下使用，从而让更多的客户获益于生成式 AI 这项技术。新的治理功能包括与 Amazon CloudWatch 的集成，以跟踪用量指标和构建自定义控制面板；以及与 Amazon CloudTrail 的集成，以监控 API 活动和排查问题。 这些新的治理和安全功能可助力组织充分发挥生成式 AI 的巨大潜力，即使在高度监管的行业中亦是如此，并确保数据受到保护。

最后，一年中某些特殊时期（例如节假日）也非常关键，客户需要确保其用户能够在使用由生成式 AI 提供支持的应用程序时获得无中断服务。在这些特殊时期，无论需求量有多大，客户都希望确保所有客户都能顺畅地使用其服务。Amazon Bedrock 现在支持客户预留吞吐量（按每分钟处理的令牌数计算），即使在流量高峰时段，也能提供始终如一的用户体验。

总而言之，Amazon Bedrock 新功能和模型将助力企业以更快的速度构建更加个性化的应用程序，并提高员工的工作效率。我们一直以来都在持续投资机器学习基础设施，因此，Amazon Bedrock 无疑是客户构建和扩展生成式 AI 应用程序的最佳场所。

为了协助客户快速上手这些新功能，我们在数字化按需培训课程^[1] 系列中添加了新的关于 Amazon Bedrock 的生成式 AI 培训。Amazon Bedrock – 入门^[2] 是一门免费的、自定进度的数字课程，旨在向学员介绍该服务。这个 60 分钟的课程将向开发人员和技术受众介绍 Amazon Bedrock 的优势、功能、使用案例和技术概念。

[1] 数字化按需培训课程：

file:///private/var/folders/79/qsz3pm0x67zfxf4fl9994d7w0000gn/T/com.microsoft.Outlook/Outlook%20Temp/zh_cn__AWSLOC36986%5B61%5D.html

[2] Amazon Bedrock – 入门：

https://explore.skillbuilder.aws/learn/course/external/view/elearning/17508/amazon-bedrock-getting-started

Amazon CodeWhisperer 自定义功能，可根据组织的代码库生成相关度更高的代码推荐

亚马逊云科技正致力于构建功能强大的新应用程序，让我们的客户能够通过变革性的方式利用生成式 AI 技术完成工作。2023 年 4 月，我们宣布正式推出 Amazon CodeWhisperer，这是一款人工智能代码编写助手，可根据开发人员集成式开发环境（IDE）中的自然语言注释和代码，提供 15 种语言的代码建议，从而助力开发人员更快地构建软件应用程序。CodeWhisperer 已经基于数十亿行公开代码进行了训练，有助于开发人员以更高效率完成各种任务。我们基于亚马逊云科技高质量代码（包括 Amazon API 和最佳实践）对 CodeWhisperer 进行了专门训练，可助力开发人员更快、更准确地生成与 Amazon Elastic Compute Cloud（Amazon EC2）、Amazon Simple Storage Service（Amazon S3）和 Amazon Lambda 等亚马逊云科技服务互动的代码。Accenture、Persistent 以及 Bundesliga 等客户一直以来都在使用 CodeWhisperer 来助力其开发人员提高工作效率。

许多客户还希望 CodeWhisperer 在建议中纳入其内部 API、库、最佳实践和架构模式，这样他们就可以进一步加快开发速度。如今，人工智能代码编写助手无法将这些 API 纳入自己的代码建议中，因为其通常基于公开代码进行训练，因此并不知道公司的内部代码。例如，要为某电子商务网站构建一个列出购物车中商品的功能，开发人员必须找到并理解现有的内部代码（例如提供商品描述的 API），才能在购物车中显示商品描述。如果代码编写助手无法为开发人员建议正确的内部代码，他们就得花费数小时来仔细研究其内部代码库和文档，才能顺利完成工作。即使开发人员能够找到合适的资源，他们也不得不花更多的时间来审查代码，以确保代码遵循公司的最佳实践。

如今，Amazon CodeWhisperer 自定义功能让 CodeWhisperer 能够生成比以前更出色的建议，因为该功能现在可以纳入您的内部 API、库、最佳实践和架构模式。该功能使用最新的模型和上下文自定义技术，并将很快随全新 CodeWhisperer Enterprise Tier 一起提供预览版。借助此功能，您可以将私有存储库安全地连接到 CodeWhisperer，只需点击几下，即可自定义 CodeWhisperer，生成纳入您内部代码库的实时推荐。例如，通过 CodeWhisperer 自定义功能，在外卖公司工作的开发人员可以要求 CodeWhisperer 提供推荐，其中包括与公司内部服务相关的特定代码，比如“处理骑手当前位置周围未分配的外卖订单”。以前，CodeWhisperer 并不了解正确的内部 API 来获取“未分配的外卖订单” 或“骑手当前位置”等信息，因为这并不是公开信息。如今，一旦根据公司的内部代码库进行定制，CodeWhisperer 便会了解意图，确定哪些内部和公共 API 最适合该任务，并为开发人员生成代码推荐。CodeWhisperer 自定义功能可以为开发人员节省搜索和修改缺少文档的代码所花费的时间，并协助新来公司的开发人员更快地上手。

在以下示例中，AnyCompany（一家外卖公司）的开发人员在创建私密自定义内容后，获得纳入其内部 API 和库的 CodeWhisperer 代码推荐。

我们最近与 Persistent 公司一起开展了一项研究，来衡量 CodeWhisperer 自定义功能在生产力方面具备的优势，该公司是一家向客户提供数字化工程和企业现代化服务的全球服务和解决方案公司。Persistent 公司发现，与使用标准 CodeWhisperer 的开发人员相比，使用自定义功能的开发人员完成代码编写任务的速度平均要快 28％。

我们在设计这种自定义功能时，着重考虑了隐私性和安全性。管理员可以通过亚马逊云科技管理控制台，轻松管理对私密自定义内容的访问权限，以便只有特定的开发人员才能访问这些内容。管理员还可以确保只有符合其标准的存储库才有资格在 CodeWhisperer 自定义中使用。使用高质量的存储库有助于 CodeWhisperer 生成可推进安全性和代码质量最佳实践的建议。每项定制都与其他客户完全分开，使用此新功能构建的自定义内容均不会用于训练 CodeWhisperer 底层的基础模型，从而可以保护客户的宝贵知识产权。

在 Amazon QuickSight 中推出生成式商务智能编写功能预览版，助力业务分析师使用自然语言命令，轻松创建和自定义可视化内容

让组织中的所有用户都能获取洞察，是亚马逊云科技一直以来的使命。Amazon QuickSight 是我们专为云构建的统一商务智能（BI）服务，方便向组织中的所有用户分享洞察。

自 2020 年以来，我们一直在借助 QuickSight 利用生成式模型为 Amazon QuickSight Q 提供支持，QuickSight 让任何用户都能使用自然语言提出数据问题，而无需编写 SQL 查询或学习商务智能工具。2023 年 7 月，我们宣布通过全新 LLM 功能，进一步推进 QuickSight Q 早期的创新，在 QuickSight 中提供生成式商务智能功能。BMW 和 Traeger Grills 等当前的 QuickSight 客户，都在期待利用生成式商务智能编写体验来进一步提高其分析师的工作效率。

如今，亚马逊云科技向业务分析师提供这些 LLM 功能的预览版以及生成式商务智能控制面板编写功能。新的生成式商务智能编写功能扩展了 QuickSight Q 的自然语言查询，不再仅仅是回答结构良好的问题（例如 “加州销量排名前十的产品是什么？”）来协助分析师根据问题片段（例如 “排名前十的产品”）快速创建可自定义的可视化内容，而是通过询问后续问题来明确查询意图、优化可视化内容并完成复杂的计算。业务分析师只需描述所需的结果，QuickSight 就能生成有吸引力的可视化内容。只需单击一下，即可轻松将这些内容添加到控制面板或报告中。

此外，QuickSight Q 还提供相关问题，这样一来，当多个数据字段与分析师的查询相匹配时，可以助力分析师拨云见日。当分析师获得初始可视化内容时，他们可以使用自然语言提示添加复杂的计算、更改图表类型和优化可视化内容。QuickSight Q 中的全新生成式商务智能编写功能让业务分析师可以快速、轻松地创建有吸引力的可视化内容，并缩短提供所需洞察的时间，从而为大规模数据驱动型决策提供依据。

在 Amazon QuickSight 中使用生成式商务智能功能

创建可视化内容

适用于每个企业的生成式 AI 工具和功能

亚马逊云科技向所有客户开放了生成式 AI。凭借企业级安全性和隐私性、丰富的先进基础模型选择、数据优先的方法，以及高性能且极具成本效益的基础设施，亚马逊云科技能够在堆栈的每一层，利用生成式 AI 解决方案来为企业创新提供助力。

我们见证了 Bridgewater Associates、Omnicom、Asurion 和 Rocket Mortgage 等公司激动人心的创新之举，随着这些新功能的推出，我们期待将生成式 AI 这项技术应用到各种新的使用案例和应用程序中，以此提高生产力。这仅仅是个开始，在整个技术堆栈中，我们正利用专为贵组织而构建的新服务和功能来进行大力创新，助力您应对严峻的挑战，改善您的工作方式。

资源

要了解更多信息，请查看以下资源：

• 在亚马逊云科技上探索生成式 AI

  https://aws.amazon.com/cn/generative-ai/

• 了解 Amazon Bedrock，这是使用基础模型构建和扩展生成式 AI 应用程序的最简单方法

  https://aws.amazon.com/cn/bedrock/

• 在 Amazon Bedrock 上了解有关 Llama2 的更多信息

  https://aws.amazon.com/cn/bedrock/llama-2/

• 了解 Amazon Titan，这是 Amazon 的高性能基础模型，可用于负责任地进行创新

  https://aws.amazon.com/cn/bedrock/titan/

• 了解如何使用 Amazon CodeWhisperer 自定义功能 

  https://aws.amazon.com/cn/codewhisperer/customize/

• 详细了解 QuickSight 的生成式商务智能功能

  https://aws.amazon.com/cn/quicksight/generative-bi/

• 在 Amazon Marketplace 中探索 Amazon 合作伙伴提供的生成式 AI 解决方案 

  https://aws.amazon.com/marketplace/solutions/machine-learning/generative-ai?aws-marketplace-cards.sort-by=item.additionalFields.sortOrder&aws-marketplace-cards.sort-order=asc&awsf.aws-marketplace-aws-marketplace-aim=*all

本篇作者

Swami Sivasubramanian

亚马逊云科技数据与机器学习副总裁。Swami 的职责是监督所有亚马逊云科技数据库、分析以及人工智能和机器学习服务。其团队的使命是，助力组织利用完整的端到端数据解决方案充分发挥其数据的效用，从而进行存储、访问、分析、可视化和预测。

星标不迷路，开发更极速！

关注后记得星标「亚马逊云开发者」

听说，点完下面4个按钮

就不会碰到bug了！