HiLens是华为云的端云协同多模态AI开发应用平台,提供简单易用的开发框架、开箱即用的开发环境、丰富的AI技能市场和云上管理平台,对接多种端侧计算设备,支持视觉及听觉AI应用开发、AI应用在线部署、海量设备管理等。
华为HiLens由AI推理摄像机HiLens Kit等端侧设备和云上开发平台组成,平台包括一站式技能开发、设备部署与管理、数据管理、技能市场等,并提供开发框架和开发环境,帮助用户开发AI技能并将其推送到端侧计算设备。
HiLens使用中如何导入(转换)模型?
技能可以抽象地理解为算法模型+逻辑代码。算法模型负责关键的AI推理,逻辑代码负责处理模型推理的结果。因此在开发技能前,需要将模型导入Huawei HiLens。
模型要求
导入的模型可为“.om”格式、“.pb”格式或“.caffemodel”格式,其中“.om”格式的模型才可以在HiLens Kit上运行,“.pb”格式或“.caffemodel”格式的模型在“导入(转换)”过程中,Huawei HiLens平台会自动将模型转换为“.om”格式。
前提条件
在导入模型前,导入的模型可通过ModelArts在线训练,也可通过本地训练。
导入ModelArts模型
导入ModelArts模型前,需先在ModelArts训练自己的算法模型,训练模型可参见《ModelArts文档》。
说明:
暂不支持导入ModelArts中“自动学习”训练的模型。
本地训练模型
导入自定义模型前,需要将自定义的模型以“.zip”压缩包的形式上传到OBS服务,非“.om”格式的模型上传文件包含caffe模型文件“.caffemodel”和“.prototxt”和配置文件“.cfg”,或tensorflow的“.pb”模型文件和配置文件“.cfg”,上传操作可参见OBS快速入门。上传到OBS需要收取一定费用,收费规则请参见对象存储服务 OBS。上传至OBS时,需确保OBS桶与Huawei HiLens在同一区域,且OBS文件夹名称满足如下要求:
文件夹名称不能包含以下字符:?"<>|。
文件夹名称不能以英文句号(.)或斜杠(/)开头或结尾。
文件夹绝对路径总长度不超过1023个字符。
文件夹名称不能包含两个以上相邻斜杠(/)。
导入(转换)模型操作
登录Huawei HiLens管理控制台,在左侧导航栏中选择“技能开发 > 模型管理”,进入“模型管理”页面。
在“模型管理”页面,单击右上角的“导入(转换)模型”。
在“导入模型”页面,然后参考表1填写参数,信息确认无误后单击“确定”完成导入。
表1 导入自定义模型
参数名称
参数说明
名称
导入模型的名称。
版本
导入模型的版本号。
格式为“数字.数字.数字”,如2.1.3,每位数字范围为0~999,不能以0开头。
描述
导入模型的描述。
模型来源
选择导入模型的来源,包括“从OBS导入”和“从ModelArts导入”。
从OBS导入
单击“从OBS导入”,选择导入自定义模型存储在OBS服务的桶和文件夹,单击“确定”。
从ModelArts导入
单击“从ModelArts导入”,在右侧下拉框中选择模型框架,包括“TensorFlow”、“Caffe”、“OM(从转换任务中获取)”。
在您进行导入(转换)操作后,Huawei HiLens平台将TensorFlow、Caffe模型转换为“.om”格式,然后导入模型。OM模型是从前者转换任务中获取。
在下方的模型列表中勾选待导入的模型。
转换类型
若在上文“模型来源”中,选择需要转换格式的模型(非“.om”格式模型),需要选择模型转换的类型,包括“Tensorflow frozen graph 转 Ascend”、“Caffe 转 Ascend”。
Tensorflow frozen graph 转 Ascend
支持将Tensorflow frozen graph模型转换成可在ascend芯片上运行的模型。
Caffe 转 Ascend
支持将Caffe模型转换成可在ascend芯片上运行的模型。
转换输入目录
若在上文“模型来源”中,选择需要转换格式的模型(非om格式模型),转换输入目录根据模型的来源自动初始化。目录下应该包含模型文件和转换所需的配置文件。
转换输出目录
若在上文“模型来源”中,选择需要转换格式的模型(非om格式模型),单击点击放大选择模型转换完成后输出的OBS目录。请确保该目录下没有om模型。
输入张量形状
若在上文“模型来源”中,选择需要转换格式的模型(非om格式模型),并且转换类型是Tensorflow frozen graph 转 Ascend时,需要填写输入张量形状,格式为张量名称:张量维度,如input:1,224,224,3。
模型导入后,将进入“模型管理”页面,您导入的模型可从列表中查看。
查看模型详情
登录Huawei HiLens管理控制台,在左侧导航栏中选择“技能开发 > 模型管理”,进入“模型管理”页面。
您可以在列表中查看“模型名称”、“版本”、“模型大小”、“导入时间”、“状态”、“描述”和“操作”。其中,模型状态包括“转换中”、“转换失败”、“转换成功”、“导入失败”、“导入成功”。
单击操作列的“查看详情”,进入“模型详情”页面。
您可以查看模型的“基本信息”和“日志信息”,如图1所示,其中“基本信息”的参数说明请见表1。
图1 模型详情
点击放大
重新转换模型
当您导入的模型格式不是“.om”格式,且模型状态处于“转换失败”的状态时,您可以修改模型的相关参数,重新转换模型。
模型状态可在Huawei HiLens管理控制台的“模型管理”页面查看。
登录Huawei HiLens管理控制台,在左侧导航栏中选择“技能开发 > 模型管理”,进入“模型管理”页面。
单击操作列的“查看详情”,进入“模型详情”页面。
您可以查看模型的“基本信息”和“日志信息”。
单击点击放大对“基本信息”中的“转换类型”、“输入张亮形状”、“转换输入目录”、“转换输出目录”、“描述”进行修改编辑,编辑完成后单击点击放大保存信息。参数说明请见表1。单击点击放大可复制模型路径。
修改完模型参数后,单击右上角“重新转换”,即可重新转换模型。
删除模型
您可以根据自身业务需要,删除已导入(转换)的模型。
登录Huawei HiLens管理控制台,在左侧导航栏中选择“技能开发 > 模型管理”,进入“模型管理”页面。
单击操作列的“删除”,完成删除模型操作。也可单击操作列的“查看详情”,在“模型详情”页面的右上角单击“删除模型”,完成删除模型操作。