摘要
深度学习在图像、语音、文本等多种模态的数据任务上取得了优异的效果然而,针对特定任务,人工设计网络需要花费大量的时间,并且需要设计者具有一定水平的专业知识和设计经验.面对如今日趋复杂的网络架构,仅依靠人工进行设计变得越来越复杂基于此,借助算法自动地对神经网络进行架构的搜索成为了研究热点神经架构搜索的方法涉及3个方面:搜索空间、搜索策略、性能评估策略通过搜索策略在搜索空间中选择一个网络架构,借助性能评估策略对该网络架构进行评估,并将结果反馈给搜索策略指导搜索策略选择更好的网络架构,通过不断迭代得到最优的网络架构为了更好地为读者提供一个快速了解神经网络架构搜索方法的导航地图,从搜索空间、搜索策略和性能评估策略3个方面对现有典型的神经架构搜索方法进行了梳理,总结讨论了近年来常见的架构搜索方法,并分析了各种方法的优势和不足.
基金项目
国家自然科学(61972174)
国家自然科学(61876069)
国家自然科学(61876207)
吉林省重点研发项目(20180201045GX)
吉林省重点研发项目(20180201067GX)
吉林省自然科学(20200201163JC)
广东省科技计划项目(2020A0505100018)
广东省应用基础研究重点项目(2018KZDXM 076)
广东省优势重点学科项目(2016GDYSZDXK036)