计算机科学2021,Vol.48Issue(7) :281-291.DOI:10.11896/jsjkx.201100106

基于网络结构的正则化逻辑回归

Logistic Regression with Regularization Based on Network Structure

胡艳梅 杨波 多滨
计算机科学2021,Vol.48Issue(7) :281-291.DOI:10.11896/jsjkx.201100106

基于网络结构的正则化逻辑回归

Logistic Regression with Regularization Based on Network Structure

胡艳梅 1杨波 2多滨1
扫码查看

作者信息

  • 1. 成都理工大学计算机与网络安全学院 成都 610059
  • 2. 电子科技大学计算机科学与工程学院 成都 611731
  • 折叠

摘要

逻辑回归是一个应用广泛的分类模型,但由于高维数据分类任务在实际应用中变得越来越频繁,使得分类模型面临着巨大的挑战.应对该挑战的一种有效方法是对模型进行正则化.许多已有的正则化逻辑回归直接运用L1范数罚作为正则化罚项,而不考虑特征之间的复杂关联关系.也有一些研究工作基于特征的组信息设计了正则化罚项,但它们假设组信息是预先给定的.文中从网络的视角对特征数据中存在的潜在模式进行挖掘,并基于此提出了一个基于网络结构的正则化逻辑回归.首先,以网络的形式描述特征数据并构建出特征网络;其次,从网络科学的角度对特征网络进行观察和分析,并基于此设计罚函数;然后,以该罚函数为正则化罚项,提出网络结构Lasso逻辑回归;最后,结合Nesterov加速近端梯度下降法和Moreau-Yosida正则化方法,推导了模型的求解过程.在真实数据集上的实验结果显示,所提网络结构Lasso逻辑回归表现优异,这表明从网络的视角观察和分析特征数据是研究正则化模型的一个具有潜力的方向.

关键词

正则化罚项/逻辑回归/网络结构/特征选择/近端梯度下降法

引用本文复制引用

基金项目

出版年

2021
计算机科学
重庆西南信息有限公司(原科技部西南信息中心)

计算机科学

CSTPCDCSCD北大核心
影响因子:0.944
ISSN:1002-137X
被引量2
参考文献量1
段落导航相关论文