首页|基于多头注意力机制的残差网络深度学习推荐模型

基于多头注意力机制的残差网络深度学习推荐模型

扫码查看
深度学习由于其强大的特征表达能力,在推荐研究领域的应用逐渐广泛。DIN(Deep Interest Network)是一种基于注意力机制和用户兴趣进行推荐的深度学习模型,针对其存在的特征训练完备性较低、推荐精度有待提高的问题,提出一种基于DIN改进的融合多头注意力模块与残差网络的深度学习推荐模型:MHAR-DIN(Multi-Head Attention Residual Deep Interest Network)。利用多头注意力模块基于用户历史行为进行注意力的打分,充分考虑用户的兴趣偏好,并引入残差网络结构将特征越过训练直接接入全连接器,解决过深网络难以训练的问题。在公开数据集MovieLens上与经典深度学习推荐模型的对比实验表明,所提MHAR-DIN模型具有一定有效性和可行性。

张圆梦、李少波、周鹏、杨明宝

展开 >

贵州大学计算机与科学技术学院 贵阳 550025

贵州大学贵州省公共大数据国家重点实验室 贵阳 550025

贵州大学机械工程学院 贵阳 550025

多头注意力机制 残差网络 推荐算法 DIN 深度学习

2024

参考文献引证文献相关文献
同作者其他文献
计算机与数字工程
中国船舶重工集团公司第七0九研究所

计算机与数字工程

CSTPCD
影响因子:0.355
ISSN:1672-9722
年,卷(期):2024.52(7)
张圆梦,李少波,周鹏,等.基于多头注意力机制的残差网络深度学习推荐模型[J].计算机与数字工程,2024,52(7):1955-1958,1965.DOI:10.3969/j.issn.1672-9722.2024.07.009.