首页|基于自适应动量优化算法的正则化极限学习机

基于自适应动量优化算法的正则化极限学习机

扫码查看
针对极限学习机(extreme learning machine,ELM)隐节点不确定性导致的系统不稳定,以及对大型数据计算负担过重的问题,提出了基于自适应动量优化算法(adaptive and momentum method,AdaMom)的正则化极限学习机.算法主要思想是构造连续可微的目标函数,在梯度下降过程中计算自适应学习率,求自适应学习率与梯度乘积的指数加权平均值,通过迭代得到损失函数最小值对应的隐层输出权重矩阵.实验结果表明,在相同基准数据集的训练中,AdaMom-ELM算法具有非常良好的泛化性能和鲁棒性,提高了计算效率.
Adaptive and momentum method for regularized extreme learning machine

王粲、夏元清、邹伟东

展开 >

北京理工大学 自动化学院,北京 100081

机器学习 极限学习机 梯度下降 模型优化 数据分类 泛化性能 鲁棒性

国家重点研发计划项目国家自然科学基金国家自然科学基金

2018YFB17004006190601561836001

2021

计算机应用研究
四川省电子计算机应用研究中心

计算机应用研究

CSTPCDCSCD北大核心
影响因子:0.93
ISSN:1001-3695
年,卷(期):2021.38(6)
  • 5
  • 3