排序层-深度模型-2018：ESMM【多任务学习模型】【多任务学习(multi-task learning，简写MTL)】【阿里】

旧城等待， 2023-09-28 18:49 12阅读 0赞

ESMM模型2018年由阿里巴巴提出，发表在SIGIR2018会议上的《Entire Space Multi-Task Model: An Eﬀective Approach for Estimating Post-Click Conversion Rate》文章基于 Multi-Task Learning 的思路，有效解决了真实场景中CVR预估面临的数据稀疏（data sparsity，DS）以及样本选择偏差（sample selection bias，SSB）这两个关键问题。

多任务学习(multi-task learning，简写MTL)是实现多目标的一种思路。

模型结构设计和损失函数作为可以提高MTL有效性的两个主要方向，在业界和学术界得到了较多的关注和研究。

在业务中运用MTL时，如何进行task融合对提高MTL效果也非常重要。

MTL模型结构设计，需根据task之间的关系，灵活结合hard参数共享和soft参数共享两种机制，使模型既能有效表征task之间的共性，又能表征task的独特性。

ESMM和ESM2模型，巧妙地利用了电商业务场景中CTR和CVR等任务之间的关系进行模型结构设计，有效解决了该场景由cvr数据稀疏和样本空间不一致导致模型训练困难和效果不佳等问题。

ESM2在ESMM的基础上，进一步缓解了数据稀疏问题，可以看做是ESMM的升级版本。

ESMM和ESM2模型是基于电商场景提出的。不同于内容消费场景，用户在电商场景中的行为具有路经长、转化低的特点。

--------------------

参考资料：  
[阿里CTCVR联合预估模型之ESMM][CTCVR_ESMM]  
[ESMM详解][ESMM]  
[推荐系统之ESMM算法精读和实战][ESMM 1]  
[深度模型（十）：ESMM][ESMM 2]  
[多目标模型结构-ESMM和ESM2][-ESMM_ESM2]

[CTCVR_ESMM]: https://zhuanlan.zhihu.com/p/489719819
[ESMM]: https://zhuanlan.zhihu.com/p/427796311
[ESMM 1]: https://blog.csdn.net/m0_37870649/article/details/87378906
[ESMM 2]: https://blog.csdn.net/gaofeipaopaotang/article/details/100162986
[-ESMM_ESM2]: https://mp.weixin.qq.com/s?__biz=MzAxMzgzOTc2NA==&mid=2652179976&idx=1&sn=a67e1346a220a842bf48e4d4bbb54aa1&chksm=807dd2f3b70a5be562aed2a25f06ba52b4088b33172e4f67f13d48f2eaf35c8070eb9cb3846d&mpshare=1&scene=1&srcid=0610Kan5FncDvo8JHdzxA9fN&sharer_sharetime=1654867356596&sharer_shareid=655bd48b81ae789147c2b90c45598599&version=4.0.2.90474&platform=mac#rd