GenAI神功怎么练才安全？
编辑：阿冒
设计：沐由
表面上看起来，创造性和破坏性似乎是完全相反的两个极端，但是在实际情况下，它们并非彼此对立，而是存在着复杂而紧密的关系，并且相互依存、相互影响的。
由于武林绝学九阳神功的加持，张无忌修炼其他武功简直不能再简单，其他人需要几十年苦练才可能略有小成的乾坤大挪移，他只需要大半天就学到了第六重的至高境界。
然而，倘若驾驭不好的话，九阳神功的破坏性也是极大的，轻则导致神智混乱，重则筋脉俱废，甚至威胁到生命——整个系统都宕机关闭的话，创造性还能在线？
就像一年多来火遍全球的生成式AI，它拥有极其强大的学习和推理能力，能够产生新的内容、想法和方法，提供新的思路与洞见，帮助各个领域的创新，解决现实世界中的复杂问题。
与此同时，生成式AI的快速发展也引发了安全、隐私和伦理等方面的问题和挑战，需要对之进行更审慎和负责任的管理，从而确保AI的发展不会对社会造成负面影响。
显然，GenAI时代里的安全，仍是企业应用构建需要首先面对的核心命题。
云安全的“威力加强版”
面对新的挑战，在亚马逊云科技全球峰会2023 re:Invent上，亚马逊首席安全官Steve Schmidt指出，安全人员需要快速识别新的威胁，并及时采取补救措施。
“这就和下棋一样，你必须时时注意棋盘，观察棋子的移动，预测对手的行动，确定他的策略，继而调整自己的策略和反应，方能够占得先手、赢得胜利。”Steve表示。
不过，这绝非易事。
在现代化企业中，往往同时运行着几十个，甚至数百个应用程序，满足不同业务和流程的需要。然而，对于IT管理员和安全人员来说，7×24的盯守简直是不可能完成的任务。
本次大会上，亚马逊云科技推出了Amazon Detective和Amazon Inspector的“威力加强版”——利用生成式AI的力量，来增强这些工具的网络安全和代码扫描功能。
其中，前者是一款强大的安全分析工具，能够自动分析结果组并利用机器学习、统计分析和图论等技术，以自然语言呈现摘要和见解，更快、更高效地构建出交互式、可视化的安全调查，找寻和定位不寻常或可疑的活动。
后者则是一项漏洞管理服务，可持续扫描云上工作负载以查找软件和代码漏洞以及意外的网络暴露。在发现漏洞时，Amazon Inspector会提供可操作的安全发现，包括受影响的代码片段和补救建议，有效维护了Lambda函数的安全性和完整性。
同样，Amazon Inspector使用了机器学习模型和自动推理来完成一系列的工作。结合当前的应用实践，Steve认为生成式AI可以帮助安全解决方案更加成熟和可靠。
从当前的发展趋势来看，安全越发仰仗人工智能的驱动，而生成式AI又加速了这一进程。随着不断将AI集成到其服务中，亚马逊云科技为客户提供了更复杂和自动化的工具，为企业和开发人员的云运营提供增强的安全防护和效率。
让云上GenAI创新永无止境
作为云计算的开创者和引领者，亚马逊云科技始终将安全视为首要任务——在GenAI时代，这一点同样不会变，亚马逊云科技会借助生成式AI的力量，继续巩固和加强既有经典的云安全体系——这是千万企业用户的重要业务支撑，容不得任何闪失。
“我们在内部使用人工智能来构建解决方案，已经持续了很长时间。在正式发布的服务之外，实际上有很多技术和功能在底层为客户提供安全保护，只是不为外界感知而已。”Steve表示。
亚马逊首席安全官Steve Schmidt（资料图片）
其实，这也正是“把复杂和困难留给自己，把安全和效率交付客户”的真实体现。在云计算安全领域，在生成式AI的加持下，亚马逊云科技的领先优势正在不断加大。
大会期间，Steve从三个层面阐述了亚马逊云科技在GenAI时代对应用构建安全方面的观点，为企业如何构建安全的GenAI应用提供了他的思考和建议。
首先，GenAI是让我们实现飞跃的重要技术之一，它将影响到安全的各个层面，大大地加速了效率，减轻了安全从业者和信息主管的负担，不过这并不意味着GenAI可以一揽子抓到底，决策权必须掌握在人类手中。
Steve表示，“将复杂的工具与熟练的工程师相结合非常有效，因为它使人们能够做出安全所需的细致决定。”
其次，亚马逊云科技始终确保数据安全不外泄。企业通过询问使用GenAI时，必须从数据源、数据使用和关联过程以及数据生成结果等三个层面加以考虑，全面保障企业数据安全。
最后，GenAI相关功能和应用的开发设计，将会始终贯穿在亚马逊云科技的安全中。譬如，通过Amazon CodeWhisperer的定制化功能和Amazon Bedrock等工具，亚马逊云科技已经在应用构建中加入了全面的控制和安全隔离设计。
近一段时间，我们看到多起云安全事故，带来的影响或许用生硬的公式可以计算得出，但是真正的损失恐怕远远超出了人们的想象。亚马逊云科技希望，通过最有创造力的工具为企业客户筑牢“防护墙”，让云上的GenAI创新永无止境！
