英伟达发布Hopper架构的H100 GPU,承载可信执行环境生态新增一员

芯东西3月23日凌晨报道,NVIDIA(英伟达)携基于最新Hopper架构的H100 GPU系列新品高调回归!

英伟达发布Hopper架构的H100 GPU,承载可信执行环境生态新增一员_第1张图片
继去年推出其首款数据中心CPU后,英伟达又亮出一款基于Arm架构的Grace CPU超级芯片。

以下摘自黄仁勋在GTC大会上部分介绍内容:

  1. H100 GPU:采用台积电4N工艺,拥有800亿个晶体管,实现了首个GPU机密计算,相比A100,FP8性能提升6倍,FP16、TF32、FP64性能各提升3倍。

  2. 机密计算:每个Hopper实例都支持在受信任执行环境中进行机密计算。

英伟达发布Hopper架构的H100 GPU,承载可信执行环境生态新增一员_第2张图片
并且在技术进展上,H100也具备6项突破性创新,其中包括H100是全球首款具有机密计算功能的GPU加速器,有了基于硬件的强大安全性,用户可以在云上运行应用程序,并保证未经授权的实体无法查看或使用应用程序代码和数据,从而保护了数据的机密性计算。

![在这里插入图片描述](https://img-从数据计算安全层面来看,H100GPU也向隐私计算技术所应用的垂直行业场景赋能。由于隐私计算技术是牺牲系统性能来解决数据流通的安全性问题,而金融、政务、运营商等多行业业务场景对性能有严格要求,致使隐私计算技术在实际生产实践中的应用效果并不理想。随着H100 GPU的发布,其性能、算力、处理能力等多方面提升,也为隐私计算技术的可落地性和可实践性带来突破性进展。可信执行环境(TEE)技术与GPU存在天然的融合优势,通过GPU来为TEE做提速,便是当前及近一段时间内隐私计算技术降低性能损耗的最优方案。

冲量在线是业内首个提出用GPU加速TEE神经网络从而提升模型训练速度的厂商。冲量数据互联平台利用Split Learning技术,把深度神经网络的模型进行合理拆分,在TEE内保证训练数据的"可用不可见",同时利用GPU对模型训练时性能敏感部分进行异构加速,从而显著地提高模型的训练速度。示例如下:

英伟达发布Hopper架构的H100 GPU,承载可信执行环境生态新增一员_第3张图片
为了解决从TEE传递给GPU训练的部分敏感数据泄露问题,抵御重建攻击,冲量数据互联平台通过最小化原始数据与中间数据的距离相关系数,在保持模型精度的情况下,找到拆分的最优组合,保证整个神经网络训练的隐私和高效。使用经典的CNN网络VGGNet16模型以及花卉数据集进行测试,验证了GPU加速的TEE神经网络能够带来显著提速。

未来,通过GPU/DCU加速TEE的方案会更加成熟,也使隐私计算可以更好的应用于更多需要数据流通的业务场景,冲量在线将持续专注于通过可信执行环境结合多方安全计算、联邦学习、硬件加速等多元技术融合的方案,帮助客户构建外向型的数据生态,充分挖掘数据价值,在保证系统性能的基础上,解决数据流通的安全隐患。

你可能感兴趣的:(金融,物联网,人工智能)