【人人可学的AI】策略蒸馏

什么是蒸馏？

“蒸馏”这个词本身是指通过蒸汽使液体中溶解的固体分子或溶液分离的过程。在化学、炼油等领域，蒸馏通常用于分离混合物中的不同成分。

什么是策略蒸馏

策略蒸馏（Policy Distillation）是一种将大型深度强化学习模型的行为转化为更简单的、轻量级的模型的方法。这个方法通常用于将训练好的大型深度强化学习模型部署到现实世界的情况中。

在策略蒸馏中，我们会使用训练好的大型模型来生成大量的“模拟”数据，然后使用这些数据来训练轻量级的模型。轻量级的模型可以在更少的计算资源的情况下运行，并且通常更加稳定。

策略蒸馏通常被用于在线下训练大型模型，然后在线上部署轻量级的模型的场景中。这样做的优势在于，我们可以使用更少的计算资源来训练轻量级的模型，同时保留大型模型的行为。