2023亚马逊云科技 re:Invent 进入第二天,亚马逊云科技首席执行官 Adam Selipsky 在两个半小时的演讲中,重点围绕重构云基础架构、重构计算、重构存储、重构企业级生成式 AI 等主题,宣布了多项重磅发布,助力云上客户快速实现数字化转型,提高企业生成式 AI 创新速度。
特别地,Adam 还提到,此次 re:Invent 大会是有史以来规模最大的亚马逊云科技盛会,线上线下总参与人数超35万人。亚马逊云科技 re:Invent 一直致力于为与会者提供更好的学习机会。在 re:Invent 期间,共有超过2200场会议、展台及演示,以助力与会者提升技能,融入更广泛的科技社群。
逆向工作理念——从客户需求出发,
持续引领云计算创新方向
每年 re:Invent 大会都会有来自各个行业、不同规模的客户与合作伙伴积极参与。他们来自全球各地,以各种方式基于亚马逊云科技推动业务发展,实现快速创新,进而提供更好的客户体验,开辟新的业务增长路径。从金融巨头如摩根大通、高盛、纳斯达克和万事达卡,到汽车行业的如宝马、丰田、福特和梅赛德斯-奔驰,以及开创性的医疗保健创新者如辉瑞、罗氏和 3M,他们都在使用亚马逊云科技进行创新。
同时亚马逊云科技也在为不同规模的企业和组织提供创新动力——从网络安全独角兽 Wiz 等炙手可热的初创公司,乃至位于爱尔兰村庄的 Lowden Guitars 这样的小型专业公司。目前全球有超过80%的独角兽企业都在使用亚马逊云科技。这些广泛的客户成功经验都源自于 working backwards——源自于从客户需求出发,这一逆向创新理念。早期,亚马逊在应对电商基础设施管理的复杂性中遇到困难,迫使自身重新思考如何构建 IT 系统,这一过程最终孕育了云计算这样革命性的产品。
四大重构突破想象
全栈生成式 AI 能力
重构基础设施
亚马逊云科技目前在全球拥有32个区域,每个区域都有3个或者更多的可用区(AZ),每个可用区在物理层面上来讲都是单独隔离,同时与冗余光纤网络互联,拥有冗余的供电、用水。当电力关停或者是有高峰使用的流量,其他可用区都完全可以不受影响,可以继续独立地运营。
重构存储
重磅发布:高性能、低延迟的对象存储服务 Amazon S3 Express One Zone
亚马逊云科技始终坚持革新,持续推出一系列创新存储服务,如用于归档数据的 Amazon S3 Glacier 存储和自动优化成本的 Intelligent Tiering。Intelligent Tiering 通过在存储层之间根据访问模式自动切换存储类型,帮助亚马逊云科技全球客户节省了超过20亿美元,体现了亚马逊云科技通过持续释放技术红利帮助客户更好的在云上创新的理念。
在本次大会中,Adam 还正式发布了高性能、低延迟的对象存储服务 Amazon S3 Express One Zone,可用于访问性能要求最高的数据存储。该服务旨在为延迟敏感的应用提供个位数毫秒级延迟的高性能,以支持每分钟数百万请求、每秒数十万次的数据访问。Amazon S3 Express One Zone 的数据访问速度比 Amazon S3 标准版快10倍,请求成本降低50%,计算成本降低60%。
重构计算
亚马逊云科技还洞察到,客户对提升云上算力,提升性价比的需求不断攀升。而云需要从芯片级开始对算力进行全面创新。2018年,亚马逊云科技发布第一代 Graviton 芯片,成为全球首家开发处理器的云厂商。今年,亚马逊云科技已拥有超过150种基于 Graviton 的实例,全球超过5万客户在使用 Graviton 处理器,包含 TOP100 名的客户也在使用 Graviton 这样的实例来获取性价比优势。例如 SAP,他们在使用 Graviton 服务之后,成本降低了35%,而且分析速度更快,同时减少了45%的碳排放量。
重磅发布:全新一代 Graviton 处理器 —— Amazon Graviton4
Adam 还宣布发布全新一代 Graviton 处理器—— Amazon Graviton4。相比 Graviton3,它的核心多出50%,内存带宽提升75%,Graviton4 芯片速度较 Graviton3 提升30%,对于数据库和 Java 应用等关键工作负载方面实现了更显著的性能提升,分别提升了40%和45%。
重磅发布:首个基于 Graviton4 的实例 R8g Instances for EC2
R8g 是第一个基于 Graviton4 的实例,今天可提供预览。R8g 作为内存优化型实例,能够更好地支持大规模数据库、实时大数据分析等应用,可提供最佳的价格性能,且减少能源消耗。未来,亚马逊云科技将有更多的 Graviton4 的实例陆续发布。
重构生成式 AI
亚马逊云科技总是在不断重构,为客户提供基础架构,帮助客户释放创新能力。在过去的几十年里,亚马逊云科技一直在 AI 领域进行创新,从将 AI 广泛应用于亚马逊庞大的零售和业务运营中积累了大量宝贵经验,为帮助客户利用生成式 AI 的力量重塑业务提供了策略指导。在重构生成式 AI 的过程中,亚马逊云科技拥有更广泛和深入的功能,具备更好性价比,同时具有必要的安全性和隐私性。
谈到全栈生成式 AI,它包括同样重要的三个层级。亚马逊云科技在不断重构三个层级:最底层是训练和推理的基础设施层,中间层是我们所有的微调模型需求的工具服务,上层是构建生成式 AI 应用层。
在生成式 AI 基础设施层,亚马逊云科技正努力优化解决方案,如 EC2 GPU 实例,以提供高效训练和运行基础模型所需的高性能计算能力,同时降低成本。在这个领域亚马逊云科技与 NVIDIA 拥有超过十年的合作经验,使亚马逊云科技成为首家提供 NVIDIA 全新 GH100 Grace Hopper 数据中心 GPU 访问的云服务提供商。这款新的超级芯片专为加速大型语言模型的训练和推理而设计,这些模型是生成式 AI 应用的基本组成部分。
重磅发布:亚马逊云科技成为首家推出 NVIDIA GH200 NVL32 实例的云厂商
NVIDIA 创始人、CEO Jensen Huang 宣布,亚马逊云科技成为首家推出 NVIDIA GH200 NVL32 实例的云厂商。这款实例带有32个 GH200 超级芯片,它们之间通过高达 900GB/s NVLink 网络进行互联,形成一个具有高达 20TB 共享内存的实例,可用于加速训练具有1万亿参数的 AI 大模型。
重磅发布:全新一代 Amazon Trainium2 芯片
基于训练芯片 Trainium 的成功经验,Adam 正式发布了全新一代 Trainium2 芯片。它拥有数千亿甚至数万亿个参数的基础模型训练做了优化,性能比上一代芯片提高到4倍,拥有65 EFlops 可以按需提供性能支持。明星生成式 AI 企业 Anthropic 计划用 Trainium2 芯片构建模型。
在进行创新的时候,我们会在各种不同的 FM 还有 API 之间交互,Amazon Bedrock 能够提供各式各样模型,例如 AI21 labs、Anthropic、Cohere、Meta,还有 Amazon Titan 模型。此外亚马逊云科技也是首个集成 Meta Llama 2 模型的云厂商。
重磅发布:亚马逊云科技与 Anthropic 深化合作关系
Adam 强调了在快速发展的人工智能领域中,客户灵活选择权的重要性。为了实现这一目标,亚马逊云科技持续拓展与业界领先的创新公司,比如开创性的 AI 初创公司 Anthropic 的合作。通过与 Anthropic 建立新的合作关系,后者将利用亚马逊云科技的专用机器学习芯片 Trainium 来训练他们的下一代复杂 Claude 模型。Amazon Bedrock 的客户还将享有独家早期使用权,体验其他地方无法使用的先进 Claude 定制和微调模型功能。
重磅发布:Amazon Bedrock 全新功能,包括模型的微调、检索增强生成(RAG)以及基于 Amazon Titan 大模型的预训练
在生成式 AI 的顶层,另一个关键层面是通过 Amazon Bedrock 为客户提供简单快速和安全地访问各种基础模型的 API 的途径。Amazon Bedrock 在两个月前推出,已经吸引了超过10,000名来自各个行业的活跃客户使用它来快速构建和扩展生成式 AI 应用。Adam 也发布了 Amazon Bedrock 的全新功能,包括模型的微调、检索增强生成(RAG)以及基于 Amazon Titan 大模型的预训练。
重磅发布:正式推出 Agents for Amazon Bedrock
借助全新 GA 的 Agents for Amazon Bedrock,用户可以通过简单的几个步骤创建和部署完全托管式的 Agent,通过动态调用 API 来执行复杂的业务任务。Amazon Bedrock 可以根据用户提供的自然语言指令完成任务所需的 API 架构。
负责任的 AI
重磅发布:Guardrails for Amazon Bedrock
在亚马逊云科技,我们致力于以负责任的方式开发 AI,Adam 本次针对生成式 AI 的安全,全新发布 Guardrails for Amazon Bedrock 预览版,根据应用程序需求和 AI 政策定制保障措施。Guardrails 可以跨基础模型,为所有应用程序提供一致的 AI 安全级别,阻止生成式 AI 应用程序中不需要的话题,根据 AI 策略过滤有害内容等。生成式 AI 一定要是安全的,是负责任的,这是亚马逊云科技的 Job Zero。
重磅发布:企业生成式 AI 助手 Amazon Q
Adam 发布了企业应用助手 Amazon Q,它由亚马逊云科技17年来积累的知识和经验训练而成,改变了开发者和 IT 人员在亚马逊云科技上构建、部署和运维应用程序和工作负载的方式。客户可以通过亚马逊云科技管理控制台、文档页面、IDE、Slack 或其他第三方对话应用程序的聊天界面访问 Amazon Q。Amazon Q 为 Amazon QuickSight、Amazon Connect 提供全新基于生成式 AI 的助理。这些应用是 Amazon Q 广泛应用的一个开始。
通过以上发布,亚马逊云科技已经构建面向全栈生成式 AI 应用的服务。
Zero-ETL 未来已来
生成式 AI 时代数据爆发独特价值
Adam 介绍说,解锁 AI 潜力的关键在于使用自己的独特业务数据进行定制。他列举了一些例子,如 Amazon Bedrock、Amazon CodeWhisperer 和 Amazon Q 等服务如何让使用专有数据对模型进行微调的过程变得无缝。
重磅发布:4项 Zero-ETL 新的集成功能
进入生成式 AI 时代,为释放数据更大价值,Adam 今天宣布了4项新的 Zero-ETL 集成功能,使客户能够快速、轻松地连接和分析数据,而无需构建和管理复杂的提取、转换和加载 (ETL) 数据管道:Amazon Aurora PostgreSQL、Amazon DynamoDB、Amazon RDS for MySQL 与Amazon Redshift 数据库的集成,以及 Amazon DynamoDB 与 Amazon OpenSearch 服务的 Zero-ETL 集成。
新的 Amazon Aurora PostgreSQL、Amazon DynamoDB 和 Amazon Relational Database Service (Amazon RDS) for MySQL 与 Amazon Redshift 的集成让您可以更轻松地连接和分析来自 Amazon Redshift 中多个关系和非关系数据库的事务数据。
同时,客户现在可以使用 Amazon OpenSearch 对 Amazon DynamoDB 数据近乎实时地执行全文和矢量搜索,从而获得跨多个应用的整体洞察力,在提高运营效率的同时降低成本,并生成更好的数据驱动决策。
重磅发布:由生成式 AI 驱动的 Amazon DataZone AI recommendations
Adam 还发布由生成式 AI 驱动的 Amazon DataZone 智能推荐功能,旨在大幅减少为组织数据提供上下文所需的时间。该功能由 Amazon Bedrock 的模型提供支持,可生成数据资产及其模式的详细说明,并提出分析用例。只需单击一下,即可生成全面的业务上下文。
仰望星空
地球不是云服务的边界
Adam 在大会上展示了 Project Kuiper ,一项全新的私有卫星网络连接服务。这一服务通过持续把卫星集合在一起,形成全球的高速卫星网络服务。Kuiper 团队在几周前已经把第一颗卫星发送到了轨道上。未来将允许客户将数据从远程位置直接把数据传入到亚马逊云科技,而无需借用公共互联网。
随着我们不断扩展和增强 Amazon Kuiper 系统,我们不断寻找为客户提供更加灵活的云端接入方法。
Adam 在 re:Invent 主题演讲的结尾强调,我们不断重构,通过重构驱动技术创新,重塑用户服务体验。感谢今天来到我们舞台上所有的客户,也感谢每一位观众。让我们再次出发去重构,去将想象力变为现实,去见证未来将会发生的一切。
扫描下方二维码查看完整版 Adam 主题演讲回放
星标不迷路,开发更极速!
关注后记得星标「亚马逊云开发者」
听说,点完下面4个按钮
就不会碰到bug了!