使用Kubernetes容器服务在云上搭建AI推理环境

场景描述

本方案适用于使用GPU进行AI在线推理的场景。在推理之前,模型已经训练完成。例如,刷脸支付中,我们在刷脸的时候,就是推理的一个过程。再比如图像分类,目标检测,语音识别,语义分析等返回结果的过程。

解决问题

  • 使用GPU云服务器搭建推理环境
  • 使用容器服务Kubernetes版构建推理环境
  • 使用NAS存储模型数据
  • 使用飞天AI加速推理工具加速推理

产品列表

  • GPU云服务器
  • 容器服务Kubernetes版
  • 文件存储NAS

使用Kubernetes容器服务在云上搭建AI推理环境_第1张图片

直达最佳实践 》》

https://www.aliyun.com/acts/best-practice/preview?id=62246(二维码自动识别)

查看更多:云栖号详情页

上云就看云栖号:更多云资讯,上云案例,最佳实践,产品入门,访问:云栖号 - 上云就看云栖号

本文为阿里云原创内容,未经允许不得转载。

你可能感兴趣的:(服务器,运维)