光电子·激光2022,Vol.33Issue(2) :149-156.DOI:10.16136/j.joel.2022.02.0384

基于时空图卷积网络的学生在线课堂行为识别

Recognition of students'online classroom action based on spatio-temporal graph convolutional network

胡锦林 齐永锋 王佳颖
光电子·激光2022,Vol.33Issue(2) :149-156.DOI:10.16136/j.joel.2022.02.0384

基于时空图卷积网络的学生在线课堂行为识别

Recognition of students'online classroom action based on spatio-temporal graph convolutional network

胡锦林 1齐永锋 1王佳颖1
扫码查看

作者信息

  • 1. 西北师范大学计算机科学与工程学院,甘肃兰州730070
  • 折叠

摘要

为了有效地识别学生在线课堂行为,提出了一种融合全局注意力机制和时空图卷积网络的人体骨架行为识别模型.首先在时空图卷积网络的空间图卷积网络和时间卷积网络之间加入全局注意力模块,空间图卷积网络输出的空间特征图作为注意力模块的输入.其次引入按时间维度的平均池化和最大池化操作,以增加模型学习全局特征信息的能力.最后用三个加入注意力机制的时空图卷积神经网络和类激活图(class activation map,CAM),构造对遮挡数据识别能力更强的丰富激活图卷积网络(RA-GCNv2-A)模型,并通过迁移学习实现学生在线课堂行为识别功能.在NTU-RGB+D和NTU-RGB+D120数据集上进行实验验证,与RA-GCNv2模型相比,在NTU-RGB+D和NTU-RGB+D120数据集上的识别准确率分别提高了(cross-subject,CS)1.3%、(cross-view,CV)1.2%和(cross-subject,CSub)1.6%、(cross-setup,CSet)1.4%.实验结果表明,提出的方法是一种有效的学生在线课堂行为识别方法.

关键词

人体骨架/行为识别/注意力机制/时空图卷积神经网络/迁移学习

引用本文复制引用

基金项目

甘肃省科技计划(18JR3RA097)

出版年

2022
光电子·激光
天津理工大学 中国光学学会

光电子·激光

CSCD北大核心
影响因子:1.437
ISSN:1005-0086
被引量4
参考文献量1
段落导航相关论文