首页|基于忆阻器的脉冲神经网络关键技术研究

基于忆阻器的脉冲神经网络关键技术研究

王国生

基于忆阻器的脉冲神经网络关键技术研究

王国生1
扫码查看

作者信息

  • 1. 西安电子科技大学
  • 折叠

摘要

随着人工神经网络(ArtificialNeuralNetwork,ANN)的模型不断变大,其对计算机的存储和读写性能要求越来越高,严重阻碍了人工智能的落地应用。目前解决这一问题的方法主要有三种:一是改进神经网络范式提出更小的网络架构;二是打破冯·诺依曼结构,实现存算一体化;三是利用各类模型压缩手段减少网络参数。忆阻器具有阻值非易失、兼容CMOS、结构简单等优点,有望突破现有微电子技术的瓶颈;而脉冲神经网络(SpikingNeuralNetwork,SNN)作为第三代人工神经网络具有更高的生物可解释性和能效有利于促进人工智能的应用。本文将脉冲神经网络与忆阻器相结合实现了在手写数字识别方面的应用。主要的研究成果如下: (1)成功制备了Pt/HfO2/Al2O3/Ti和Pt/HfO2/Ti两种忆阻器件,测量了其直流和脉冲特性并简要分析其阻变机理。重点对叠层器件进行了电热耦合模型仿真,分析并验证了其导电细丝的形成和断裂位置。限制set电流实现了叠层器件的多值存储,并从中选取了7个均匀分布的电导态对神经网络的权重进行映射;设计了特定的脉冲波形使忆阻器模拟实现STDP功能,将所得的时间常数和幅值作为脉冲神经网络离线训练的依据;测量了器件的长时程记忆特性并模拟该特大型对Multi-ReSuMe算法进行改进,将其与神经网络的在线训练结合起来,实现对忆阻器电导的调整。 (2)基于忆阻器的STDP参数和Multi-ReSuMe算法实现了手写数字识别,在训练集与测试集上分别取得了96.3%和93.9%的准确率。利用同样的方法完成脉冲序列生成任务,取得相似度第二的成绩。搭建了脉冲神经网络框架。该框架能够实现基于泄露积分点火(LeakyIntegrate-and-Fire,LIF)模型的各类训练算法。 (3)针对Multi-ReSuMe算法的缺陷,提出了两阶段的训练方法。该方法主要包括两个阶段:一阶段是通过粗粒度训练使得神经网络能够迅速到达激活状态,二阶段则是利用细粒度训练使得神经网络能够发放希望的脉冲序列。利用新算法实现了手写数字识别和特定脉冲序列生成的任务。试验证明,改进后的算法具有较高的准确率和较快的速度,能够较好地完成手写数字识别任务和生成所期望的脉冲序列且通过学习产生的权值具有更合理的分布。 (4)基于所制备器件的电学特性和双极性阈值模型进行脉冲神经网络的硬件设计。利用器件测试所得的各类参数完成神经网络的量化、权重的映射及电导调制等功能。最后利用MATLAB进行了仿真,验证了忆阻器实现前向脉冲神经网络的可行性。

关键词

忆阻器/脉冲神经网络/手写数字识别/序列生成/电路仿真

引用本文复制引用

授予学位

硕士

学科专业

软件工程

导师

王树龙/曹磊

学位年度

2021

学位授予单位

西安电子科技大学

语种

中文

中图分类号

TP
段落导航相关论文