【分享NVIDIA GTC大会干货】与Jetson嵌入式平台工程师的深度挖掘问答

Connect with the Experts: A Deep-Dive Q&A with Jetson Embedded Platform Engineers [CWES52132]

NVIDIA Jetson 是世界领先的边缘人工智能计算平台。它具有高性能和低功耗的特点，是机器人、无人机、移动医疗成像和智能视频分析等计算密集型嵌入式应用的理想选择。制造商、独立开发人员、初创公司、学生和爱好者可以使用 Jetson 开发人员套件和模块来探索嵌入式计算和人工智能的未来。NVIDIA 工程师和 Jetson 专家将讨论平台功能、SDK 和开发工具，并回答问题，以帮助您在边缘快速部署 AI。

NVIDIA Jetson™ 和 Isaac™ 平台提供端到端解决方案，用于在制造、物流、医疗保健、智能城市和零售业开发和部署人工智能驱动的自动机器和边缘计算应用程序。

会议开始给我们展示了Orin系列全家桶， Jetson Orin Nano 和 Jetson Orin NX 模块完全引脚和外形兼容，且Jetson AGX Orin 开发套件和所有  Jetson Orin 模块共享一个 SoC 架构。

 新一代的Orin Nano架构

Jetson Orin Nano 展示了带有 NVIDIA  Ampere  Architecture GPU 的 NVIDIA Orin 架构。。它有多达八个流式多处理器（SM），由1024个CUDA内核和多达32个Tensor内核组成，用于人工智能处理。

 边缘人工智能和机器人技术的新发展基线

使用预训练模型进行基准测试的结果，将 Jetson Nano 与 Jetson Orin Nano 8 GB 进行比较

NVIDIA Jetson Orin Nano 开发套件为创建入门级人工智能机器人、智能无人机和智能视觉系统设定了新标准。它还简化了 NVIDIA Jetson Orin Nano 系列的入门。紧凑的设计、众多连接器和高达 40 TOPS 的 AI 性能使该开发套件成为将您的远见概念变为现实的理想选择。

该开发套件包括一个 Jetson Orin Nano 8 GB 模块和一个参考载板，可容纳所有 NVIDIA Jetson Orin Nano 和 NVIDIA Jetson Orin NX 模块，为下一代边缘 AI 产品的原型设计提供了理想的平台。

Jetson Orin Nano 8 GB 模块采用 NVIDIA Ampere 架构 GPU，具有 1024 个 CUDA 内核、32 个第三代张量核心和一个 6 核 Arm CPU，可实现多个并发 AI 应用程序管道和高性能推理。该开发套件载板拥有多种连接器，包括两个MIPI CSI连接器，支持多达四个通道的摄像头模块，可实现比以前更高的分辨率和帧速率。

 

上一代 Jetson Nano 开发套件使每个人都可以使用 AI。新的 Jetson Orin Nano 开发套件以 80 倍的性能提高了入门级 AI 开发的标准，使开发人员能够运行任何类型的现代 AI 模型，包括变压器和高级机器人模型。与上一代Jetson Nano相比，它不仅提供了AI性能的巨大提升，Jetson Orin Nano还提供了5.4倍的CUDA计算，6.6倍的CPU性能和50倍的每瓦性能。

NVIDIA Jetson Orin Nano 开发套件功能

NVIDIA Jetson Orin Nano 开发套件包括一个特殊的 NVIDIA Orin Nano 8 GB 模组，带有有 SD 卡插槽、参考载板、预先组装的散热器/风扇、19 V DC 电源和一个基于 M.2-Key E 的无线网络模组。除了可启动的microSD卡插槽外，托架的底部还提供了两个M.2 Key-M NVMe插槽，用于高速存储。

 

 

Jetson Orin Nano开发套件具有高达40 TOPS的AI性能，可以运行所有现代AI模型。计算方面的这一重大飞跃使要求最苛刻的人工智能应用程序成为可能，包括在边缘运行变压器模型，这在以前使用 Jetson Nano 是不可能的。

 

 

由NVIDIA AI软件堆栈提供支持是一直在完善这个生态链的羽翼，应用案例程序的框架。其中包括用于机器人技术的NVIDIA Isaac，用于视觉AI的NVIDIA DeepStream和用于对话AI的NVIDIA Riva。使用 NVIDIA Omniverse 复制器进行合成数据生成 （SDG），并使用 NVIDIA TAO 工具包微调 NGC 目录中的预训练 AI 模型，您可以节省大量时间。

使用TAO Toolkit 5.0，开发人员可以利用多种最先进的视觉转换器模型进行图像分类、对象检测和分割用例。

 NVIDIA DeepStream 是智能零售、智能城市十字路口和工业自动化等边缘应用的理想组合。

NVIDIA Isaac 机器人平台是一个功能强大的端到端平台，用于开发、模拟和部署支持 AI 的机器人。特别是 NVIDIA Isaac ROS，一个硬件加速软件包的集合，使 ROS 2 开发人员更容易在 Jetson Orin Nano 开发人员套件上构建高性能解决方案。新的 NVIDIA Isaac ROS DP 版本优化了 ROS 2 节点处理管道，可以在 Jetson Orin 平台上执行。它还提供了新的基于 DNN 的 GEMS，旨在提高吞吐量。

 

                                                                                               

NVIDIA Jetson Orin Nano 8 GB 上的 NVIDIA Isaac ROS GEM 的性能、延遲和解析度。 

 与只能处理简单应用程序的原始Jetson Nano不同，Jetson Orin Nano可以运行更复杂的应用程序

 

 看完这个会议以后瞬间感觉手里的xavier都不香了，决定攒钱入手体验一下。