基于自监督的预训练在推荐系统中的研究
Research on self-supervised pre-training for recommender systems
杨纪元 1马沐阳 1任鹏杰 1陈竹敏 1任昭春 1辛鑫 1蔡飞 2马军1
作者信息
- 1. 山东大学计算机科学与技术学院,山东 青岛 266237
- 2. 国防科技大学系统工程学院,湖南 长沙 410015
- 折叠
摘要
近来涌现一批研究工作探讨如何将预训练技术应用在推荐场景下并构造预训练任务,以此提升最终的推荐性能.对现有的基于预训练的推荐模型研究进展进行重点综述;并对不同的预训练方法进行分类和比较,在3个推荐系统基准数据集上对一些代表性模型进行实验和分析,相关的数据集和代码已开源;最后对预训练的推荐模型的未来发展趋势进行总结和展望.
Abstract
Plenty of recent studies explores the application of pre-training techniques within the context of recommendation scenarios and the design of pre-training tasks in order to enhance the overall performance of recommendation.This paper extensively reviews the progress in research of recommendation models based on pre-training,classifies and compares different pre-training methods,and conducts extensive experiments and analyses on some representative models using three benchmark datasets for recommendation systems.The datasets and codes have been made open source.Finally,we summarize and prospect the future development trend of recommendation models based on pre-training.
关键词
推荐系统/综述/预训练模型/自监督学习Key words
recommendation system/survey/pre-training model/self-supervised learning引用本文复制引用
基金项目
国家自然科学基金资助项目(61902219)
国家自然科学基金资助项目(61972234)
国家自然科学基金资助项目(62072279)
国家自然科学基金资助项目(62102234)
国家自然科学基金资助项目(62202271)
国家自然科学基金资助项目(62272274)
山东省自然科学基金资助项目(ZR2021QF129)
山东省自然科学基金资助项目(ZR2022QF004)
国家重点研发项目(2020YFB1406704)
国家重点研发项目(2022YFC3303004)
山东省科技创新重点项目(2019JZZY010129)
腾讯犀牛鸟专项研究计划资助项目(JR-WXG2021411)
出版年
2024
NETL
NSTL
万方数据