推荐系统中的多任务学习(—)

什么是多任务学习

多任务学习旨在共同学习多个任务,探索多个任务间通用的可共享的信息和任务特有的信息。从人类的学习过程来看,往往我们在学习一个新的任务时,会应用已有的知识。

什么时候需要多任务学习

  • 多目标优化,例如电商推荐中,ctr和cvr以及price都是不同的优化目标,但是它们彼此之间肯定不应该是孤立的,尤其是ctr和cvr本身就天然存在贝叶斯关联。分开各自训练一个模型,不但会割裂它们之间的联系,也会带来严重的预测偏差
  • 存在关联的多场景,例如电商推荐中,购后的链路就存在多个场景,它们彼此都属于购后的推荐,存在共同的目标,但是各个场景存在样本上以及行为上的差异。举个简单的例子场景a流量很大,很容易就采集样本去训练一个完备的模型用来推荐,但是场景b流量很小,不足以去完成一个模型的学习,这是就需要场景a和场景b联合训练

Hard and Soft parameter sharing

你可能感兴趣的:(笔记)