摘要
人工神经网络作为模仿大脑处理信息的模型,早在1943年就被提出，因其强大的非线性映射和自学习能力，在各个领域得到了广泛的应用。但是，种类众多的神经网络，大都采用浅度学习模式，即单隐含层的简单网络结构，直到2006年，多伦多大学的Hinton等人于提出了包含多个隐含层的深度学习神经网络模型。实质上，Hinton并不是提出了新的网络结构，而是提出了一种对网络参数进行初始化的新方法。以前人们使用这种多隐含层的网络时，都是采用随机初始化的方法，增加隐含层个数并不能使网络的精度有明显的提高，反而会使网络复杂化、运行时空开销增大，究其原因是基于梯度下降算法的网络学习规则，在隐含层过多的情况下，会出现梯度弥散问题。Hinton提出的采用无标签数据逐层初始化的方法在一定程度上缓解了梯度弥散问题，提高了网络的精度，掀起了深度学习的热潮。但是，逐层初始化的方法在时间开销上太大，人们也在探索其它的网络初始化方法来提高深度学习网络的精度。 本论文提出了一种采用“教-学”优化（TLBO，Teaching-Learning-Based-Optimization）算法对深度BP神经网络参数初始化的方法，构建了TLBO-BP模型，并将其应用于学生的成绩预警和水质预警系统中。主要工作如下： 1.针对深度神经网络在实际应用中学习速度慢且容易陷入局部最优等缺点，利用TLBO算法较强的全局捜索能力对深度神经网络参数进行了优化。TLBO算法进行全局搜索，然后再把搜索到的最优解赋给深度神经网络，这样就能使得深度神经网络从一开始就能从较优解的附近运行，使得深度神经网络能够较快的找到最优解，避免了神经网络随机初始化带来的训练结果不稳定，训练时间长，容易陷入局部最优解问题，提高了网络的精度。 2.将TLBO-BP深度神经网络模型应用于学生成绩预警系统中。以学生成绩可能变差的程度作为分类目标，使用真实的学生成绩数据集进行预测。实验结果表明，本文算法与其他分类算法相比具有较高的分类精度，进一步验证了TLBO-BP模型的有效性。 3.将TLBO-BP预警模型运用到凡纳滨对虾的养殖水质预测中，对预测难度较高的氨氮浓度进行预测，防止氨中毒之类因水质恶化造成凡纳滨对虾大面积减产现象的发生。实验结果表明，TLBO-BP模型与其他分类模型相比具有较高的预测精度。
NETL