计算机技术与发展2023,Vol.33Issue(6) :173-180.DOI:10.3969/j.issn.1673-629X.2023.06.026

面向小样本学习的动态分布校正方法

Method of Dynamic Distribution Calibration for Few-shot Learning

赵金伟 任文静 周锦绣 黑新宏
计算机技术与发展2023,Vol.33Issue(6) :173-180.DOI:10.3969/j.issn.1673-629X.2023.06.026

面向小样本学习的动态分布校正方法

Method of Dynamic Distribution Calibration for Few-shot Learning

赵金伟 1任文静 1周锦绣 1黑新宏1
扫码查看

作者信息

  • 1. 西安理工大学 计算机科学与工程学院,陕西 西安 710048;网络计算与安全技术陕西省重点实验室,陕西 西安 710048
  • 折叠

摘要

近年来,机器学习在多领域取得巨大成功.在现实世界的真实场景中,由于采集环境复杂或标注难,使得可用于训练的标准样本很少,导致机器学习模型往往出现过学习或欠学习的问题.所以,小样本学习是具有挑战性的机器学习问题.近期人们提出分布校正方法,他们假设特征表示中每个维度都服从高斯分布,利用基类的特征分布来校正新类的特征分布.然而该方法易引入负迁移现象,并且易于淹没新类本身的特征分布.为此,该文提出一种动态分布校正方法解决分布校正过程中的负迁移问题.首先,基于阈值动态地选择近邻基类和远域基类;其次,新类样本的特征经过幂变换的操作后,增加特征标准化处理来消除不同量纲之间的差异;最后,该方法引入参数调节迁移分布与新类特征原分布之间的比例关系来实现新类的特征分布校准.通过在常规数据集miniImageNet和CUB上与最新算法和传统算法的大量对比实验表明,该方法可以有效提升小样本分类任务的性能.

关键词

小样本学习/负迁移/分布校正/阈值/动态分布校正

引用本文复制引用

基金项目

国家自然科学基金(62176210)

国家自然科学基金(61672027)

国家自然科学基金(U20B2050)

陕西省教育厅重点实验室项目(18JS076)

出版年

2023
计算机技术与发展
陕西省计算机学会

计算机技术与发展

CSTPCD
影响因子:0.621
ISSN:1673-629X
参考文献量4
段落导航相关论文