数码设计(下)2021,Vol.10Issue(6) :254.

基于Kaiser窗的受限玻尔兹曼机自适应学习率调整算法研究

李靖林
数码设计(下)2021,Vol.10Issue(6) :254.

基于Kaiser窗的受限玻尔兹曼机自适应学习率调整算法研究

李靖林1
扫码查看

作者信息

  • 1. 北京工业大学,北京,100101
  • 折叠

摘要

受限玻尔兹曼机(Restricted Boltzmann Machine,RBM)在训练过程中,存在计算复杂度高、模型对训练数据的似然度不够高等问题,导致深度学习模型训练时间较长.本文针对受限玻尔兹曼机训练时传统学习率的收敛速度慢的问题,提出一种基于Kaiser窗的受限玻尔兹曼机自适应学习率调整算法,利用Kaiser窗可以自由选择主瓣宽度和旁瓣高度之间比重的特性以及训练过程中误差增量的变化给出学习率自适应变化公式,并设置误差控制因子和惯性因子,从而更有效地自适应调整学习率.

关键词

受限玻尔兹曼机/Kaiser窗/学习率自适应

引用本文复制引用

出版年

2021
数码设计(下)

数码设计(下)

ISSN:1672-9129
参考文献量3
段落导航相关论文