1024，亚马逊云科技助力开发者在生成式 AI 时代创新构建！
生成式 AI 正激发着全球企业和开发者的创新激情，引领着人工智能的未来。今天，在1024“程序员节”这个对开发者们有特殊意义的节日，亚马逊云科技生成式 AI 构建者大会顺利召开。
本次大会全面分享了生成式 AI 的技术路径和应用场景，为开发者提供新工具试用与实践的机会，帮助开发者应对生成式 AI 带来的机遇与挑战，确保开发者能够轻松构建创新的应用，在 AI 时代保持竞争力。
那么，对于开发者们而言，生成式 AI 能创造哪些全新的可能？在本次大会的“开发者论坛”中，我们邀请到了知名的业界专家为大家讲解和分享。一起看看他们有哪些经验和心得！
个人开发者玩转生成式 AI 的 N 种方法
开源 AI 算法工程师、bilibili 知名科技 UP 主张子豪 （@同济子豪兄）为大家分享了《个人开发者玩转生成式 AI 的 N 种方法》的主题演讲。他认为，大模型能够脱离“信息茧房”，给出客观全面的建议，将每个行业最顶尖的能力赋予每个普通个体，因此“小而美”创业团队也能迎来重大机遇。
在他个人所做的大语言模型和 AIGC 相关项目中，亚马逊云科技的 AI 编程助手 Amazon CodeWhisperer 成为了他开发中得力的“辅助外挂”，帮助他极大地提高了开发的效率。他为大家总结出了“Amazon CodeWhisperer 十大玩法”：
玩法一：由注释生成代码
玩法二：由函数名生成代码
玩法三：给已有代码生成注释
玩法四：生成正则表达式
玩法五: 批量生成虚拟样本
玩法六：第三方库复杂函数
玩法七: 开源协议引用追踪
玩法八：安全漏洞扫描
玩法九：单元测试玩法+:挑战Leetcode算法题
生成式 AI 面向开发者的关键技术发展
生成式 AI 的核心是利用机器学习领域的模型创新驱动的，这是一项不断演变的技术，我们称之为基础模型。亚马逊云科技资深开发者布道师郑予彬在《生成式 AI 面向开发者的关键技术发展》主题演讲中提到，基础模型在驱动生成式 AI 中，能够对海量非结构化数据进行预训练，同时包含大量参数，能够学习复杂概念，广泛应用于各种场景，适应特定领域或行业相对较少的标记数据。
在生成式 AI 用于代码开发的过程中，如何编写、加速编写、如何提高代码质量也是开发者们关注的问题。亚马逊云科技预见到，编程将是生成式 AI 技术得到快速应用的领域之一。亚马逊云科技提供的Amazon CodeWhisperer 是一款生成式 AI 编程助手，可在基础模型高级选项中使用，实时生成代码建议，从根本上提高开发人员的生产力。Amazon CodeWhisperer目前在国内 AI 编程工具领域处于领先地位，也是目前国内用户增速最快的 AI 编程工具。在《2023 AI开发者生态报告》亮点显示中，Amazon CodeWhisperer 也处于领先地位，在开发者中占据了较高的使用率。
高效开发基于大模型的生成式 AI 应用实践
面对一个新的知识迭代带来的机遇，个人应该具备怎样的规划？亚马逊云科技资深开发者布道师黄浩文在《高效开发基于大模型的生成式 AI 应用实践》从“快速上手”和“高效优化”两部分为我们打开了思路。
他提到，在构建生成式 AI 应用程序中，开发者们会遇到许多挑战。Amazon Bedrock 是一项完全托管的服务，能够帮助开发者们更高效方便地构建生成式 AI 应用程序，简化开发，同时维护隐私和安全。开发者们无需管理任何基础设施，并且可以使用已经熟悉的亚马逊云科技服务将生成式 AI 功能安全地集成和部署到应用程序中。
从 Cloud Native 到 AI Native，
新时代的向量数据库
Zilliz 合伙人和技术总监，LF AI &Data 基金会技术咨询委员栾小凡介绍了 AIGC 时代的新基建——向量数据库及其应用场景，并分享了从全球第⼀款 AI 原⽣数据库 Milvus 1.0到Milvus 2.0，如何做云原⽣向量数据库。
第⼀式：存算分离
Milvus ⽆状态化，引⼊元信息存储，⽇志存储和数据存储，降低系统的复杂度，提升系统弹性和恢复速度。使⽤亚⻢逊云科技的服务进⾏抽象封装，实现了⾼可⽤，低成本的存储层，⼤⼤降低了数据库服务层本身的复杂性。
第⼆式：微服务化
每种⻆⾊⾃⾏进⾏扩展和负载均衡，基于 K8s 和容器可以更加容易的实现资源的超卖和隔离。使⽤亚⻢逊云科技的 EKS 服务，实现了弹性的资源调度，多租户隔离，灵活的超卖策略，和企业级的负载均衡和安全。
第三式：多级缓存
通过⾼性能本地磁盘完成了对象存储的缓存；通过元信息存储缓存了对象存储的⽬录；通过内存缓存了 Collection/Partition 状态等元信息。灵活使⽤亚⻢逊云科技使⽤的多种存储⽅式。基于 S3 构建低成本的冷数据存储，使⽤ EBS 构建云信息存储和⽇志存储。使⽤⾼性能本地机型 M6id, M7gd 上⾼性能的本地 NVMe 磁盘构建查询缓存。
第四式：云原⽣调度
包括优化请求/任务调度、资源调度、数据调度等。
如何在 K8S 上玩转生成式 AI
ApeCloud 联合创始人 & CTO蔡松露分享了如何在 K8S 上玩转⽣成式 AI。当下，每个企业都在使⽤ LLM + AIGC 来提升效率，LLM + AIGC 的供给呈现爆发式增⻓，⽇新周异。但是维护 LLM + AIGC 基础设施（特别是私有化部署）⾮常复杂，需要 LLMOps ⽀持。K8S 是 LLMOps 孕育和成⻓的天然温床。
针对 LLM Deployment & Serving，KubeBlocks 托管优势有：
多云和线下环境
⼀套框架服务多种 LLM
⽀持量化 for 开发环境
LLM 普遍较⼤，Huggingface ⽹络问题，镜像打包与分发
⾼性能 batching
针对 Databases for RAG，KubeBlocks 托管优势有：
本地化部署，保护隐私；兼容云服务
多种选择，兼容⽤户已有数据库
丰富的 Day-2 功能，⼀键接⼊
out of box，完整的开发体验
Graph RAG，
大模型应用的新技术栈详解
RAG 是 AI 基于私有知识构建认知智能应用的主流范式，但是现有的一些分割、嵌入的方法在生产级别的应用上，依然存在很多的痛点和问题。NebulaGraph 首席开发者布道师古思为向大家详细地介绍了基于图的知识结构在 RAG 领域突破更多挑战。
他提到，Amazon SageMaker 在 LangChain、LlmaIndex 社区的兼容非常好，几乎仅需改写少量代码，就能够将在 local 开发的内容迁移至亚马逊云科技平台。
在亚马逊云科技生成式 AI 构建者大会主论坛中，亚马逊云科技大中华区产品部总经理陈晓建用一个很形象的比喻，向我们阐释了生成式 AI 的现状：“生成式 AI 现已成为各行业各组织商业领导者的首要关注点。整个生成式 AI 的应用就像是浮在海面上的冰山，人们常提到的基础模型只是我们能看到的冰山一角，而在冰川底部，同样需要大量的基础模型以外的服务来支撑，如加速芯片、数据库、数据治理、应用集成等。”亚马逊云科技提供了完整的端到端的生成式 AI 技术堆栈，从底层的加速芯片，存储优化，到中间层模型构建工具和服务，再到最上层的生成式 AI 相关应用。
推动生成式 AI 普惠化，助力更多企业和个人开发者加速创新是亚马逊云科技的使命之一。亚马逊云科技愿一直与开发者们携手共进，特此祝各位开发者们节日快乐！
听说，点完下面4个按钮
就不会碰到bug了！
