排序层-深度模型-2018:MMOE【多任务学习模型】

《原始论文:Modeling Task Relationships in Multi-task Learning with Multi-gate Mixture-of-Experts》

keras框架实现的开源地址

多任务学习模型MMoE,如果第一次接触此类模型或是没有相关的研究背景的话,其实容易不太容易理解这种多任务学习的价值所在。

一般来说,大部分人见过更多的都是单任务的模型,即一个模型完成一个任务。如果需要完成多个任务的话,则可以针对每个任务单独训练一个模型,像这样:

排序层-深度模型-2018:MMOE【多任务学习模型】_第1张图片

MMOE产生背景

  • 多任务模型:在不同任务之间学习共性以及差异性,能够提高建模的质量以及效率。
  • 传统的多任务模型(Shared Bottom),随着任务之间相关性越小,模型预测效果越差。



参考资料:
多任务学习之MMOE模型
22、谷歌MMOE多任务学习模型(转)
我要打十个:多任务学习模型MMoE解读
推荐模型之多任务模型:ESMM、MMOE

你可能感兴趣的:(#,RS/排序层,多任务学习,推荐系统,MMOE)