摘要
随着5G时代的不断发展，互联网已经成为了人们生活中必不可少的一部分。对于大多数互联网公司来说，在线广告已经成为了它们的主要营收来源。精准地预测在线广告的点击率不仅可以为互联网公司带来丰厚的广告收益，还可以使广告主的商品得到精准投放，以此使营销策略发挥最大的作用。同时，从用户侧考虑，用户的体验感也会得到提升。因此，在线广告点击率的精准预测是一个可以互利三方的研究。 在线广告点击率的预测属于二分类问题，但是其数据往往是稀疏高维的，如果使用传统机器学习的方法，往往需要大量的人工特征工程。近几年，随着深度学习不断地发展，越来越多的融合模型被应用到在线广告点击率预测中。 本文基于融合模型对在线广告点击率预测进行了研究，并在近年来一些主流融合模型的基础上，提出了基于SENET与Attention机制的SEBDAFM模型，并在两个数据集上对该模型进行了有效性验证。本文的主要工作如下： （1）整理了近几年国内外学者在广告点击率预测领域的研究，并对相应的模型进行了介绍。同时，归纳总结发现大部分模型没有对特征的重要性进行衡量，使得模型缺少一定的可解释性，也限制了模型的表达上限。 （2）基于大多数模型没有考虑特征重要性所带来的影响，本文提出了一种新的融合模型——SEBDAFM模型。该模型在DeepFM模型的基础上，通过引入SENET层从元素级对特征赋予权值，进一步引入Attention机制对二阶交互特征进行加权，从两个方面充分考虑特征重要性对预测结果的影响。同时，它还引入了批量归一层对模型的收敛速度与泛化能力进行了优化。 （3）在Avazu数据集和淘宝展示广告数据集上分别进行对比实验，选取AUC与Logloss作为模型的评价指标。通过将SEBDAFM模型分别与FNN模型、Wideamp;Deep模型、DeepFM模型、DCN模型和xDeepFM模型进行对比实验，发现SEBDAFM模型的表达效果最佳，以此验证了该模型的有效性。其中，相较于在Avazu数据集中表现最好的对比模型，SEBDAFM模型的AUC上升了0.84%，Logloss下降了1.37%；同时，相较于在淘宝展示广告数据集上表现最好的对比模型，SEBDAFM模型的AUC上升了0.94%，Logloss下降了0.39%。虽然对比这些表现最好的模型，SEBDAFM模型的提升并不高，但是在广告点击率预测领域，由于数据量级十分大，因此仅仅是0.1%的提升也能够带来很高的收益。
NETL