基于全局对抗负样本的图对比学习方法
Graph Contrastive Learning with Global Adversarial Negative Examples
岑科廷 1沈华伟 1曹婍 2徐冰冰 2程学旗3
作者信息
- 1. 中国科学院 计算技术研究所 数据智能系统研究中心,北京 100190;中国科学院大学,北京 101408
- 2. 中国科学院 计算技术研究所 数据智能系统研究中心,北京 100190
- 3. 中国科学院大学,北京 101408;中国科学院 计算技术研究所 网络数据科学与技术重点实验室,北京 100190
- 折叠
摘要
图对比学习在无监督节点表示方面取得了巨大成功.该类模型旨在通过拉近同一节点对应的不同增强节点的表示(正样本),推远不同节点的表示(负样本)的方式为每个节点学习表示.其中负样本的选择是图对比学习的一个关键.现有的方法通过随机采样或者根据一些启发式的重要性度量标准为每个节点选择对应的负样本.然而上述方法并不能准确地找到对模型关键的负样本.同时,由于需要为每一个节点选取其对应的负样本,导致高昂的时间开销.为了解决上述问题,该文提出通过对抗学习的方式,为所有节点学习一个全局共享的关键的负样本.在多个基准数据集上的实验结果证明了该方法的效率和有效性.
Abstract
Graph contrastive learning,a successful unsupervised node representation method,aims to learn node rep-resentations by pulling the augmented versions of the node together(positive examples),while pushing it with other nodes apart(negative examples).One key component of graph contrastive learning is the choice of negative exam-ples,and existing methods fail accurately finding the challengeable negative examples that are critical to the model.We propose to learn a global negative example for all the nodes,through adversarial learning.Extensive experiment results demonstrate both the efficiency and effectiveness of the proposed model.
关键词
图表示学习/图对比学习/对抗负样本/全局负样本Key words
graph rrepresentation learning/graph contrastive learning/adversarial negative examples/global negative examples引用本文复制引用
基金项目
国家重点研究与发展计划(2018YFC0825204)
国家自然科学基金(U21B2046)
国家自然科学基金(62102402)
北京智源青年科学家项目(BAAI2019QN0304)
出版年
2024
NETL
NSTL
万方数据