机器学习平台PAI支持抢占型实例,模型服务最高降本90%

在AI开发及服务不断追求效率的背景下,阿里云机器学习平台 PAI 宣布支持抢占型实例(Spot Instance)。在模型推理环节,用户可以通过 PAI-EAS 模型在线服务平台灵活选择抢占型实例来运行推理时延相对不敏感的任务,进而节省服务成本,同等机型的抢占型实例与按量付费实例相比,最高可实现90%的成本优化。

  1. 什么是抢占型实例
    抢占型实例(Spot Instance)是计算资源的一种购买方式。与传统的包年包月实例、按量付费实例不同,抢占型实例的售价跟随市场需求与库存的供需关系实时浮动。PAI-EAS 抢占型实例基于公共资源组内空闲的计算资源提供服务,可以为用户提供低价资源,价格最低可至按量付费实例的10%。各类实例购买方式的单价比较为:
    • 无保护抢占型实例 < 有保护抢占型实例 < 预付费实例 < 按量付费实例
    用户在使用 PAI-EAS 抢占型实例前,首先需要设置出价上限,并选定是否设置1小时保护期。当成功部署服务时,PAI-EAS 会自动竞价抢占相应资源。

完整内容请点击下方链接查看:

https://developer.aliyun.com/article/1215898%20?utm_content=g...

版权声明:本文内容由阿里云实名注册用户自发贡献,版权归原作者所有,阿里云开发者社区不拥有其著作权,亦不承担相应法律责任。具体规则请查看《阿里云开发者社区用户服务协议》和《阿里云开发者社区知识产权保护指引》。如果您发现本社区中有涉嫌抄袭的内容,填写侵权投诉表单进行举报,一经查实,本社区将立刻删除涉嫌侵权内容。

你可能感兴趣的:(机器学习模型阿里云开发人工智能)