基于全局金字塔和注意力机制的双流网络结构  

作　　者：岳帆 谭勇[2] 黄仕建[2] 侯怡冉 陈清明 马欢 YUE Fan;TAN Yong;HUANG Shijian;HOU Yiran;CHEN Qingming;MA Huan

机构地区：[1]重庆三峡学院,重庆404120 [2]长江师范学院,重庆408000

出　　处：《信息技术与信息化》2023年第3期188-192,共5页Information Technology and Informatization

摘　　要：人体行为识别是计算机视觉中最具吸引力和实践性的研究领域之一,近年来,双流卷积神经网络因其可以同时捕获行为的空间信息和运动信息来进行人体行为的识别而越发的流行。然而,现有的基于双流卷积神经网络的行为识别方法的卷积方式无法全面的捕获相邻光流帧之间的运动信息和边缘的表观信息。为了解决这一问题,提出了一种利用全局特征金字塔和空间注意模块的来识别人类行为的双流网络结构。首先,在时间流提出了一个主要由卷积编码器和全局多头自注意(global multi-head self attention,GMSA)机制组成的全局特征金字塔结构.较小的卷积核在早期阶段捕获低维度特性,而较大的卷积核在卷积编码器后捕获其高维特性。而全局多头注意力则捕获全局的运动信息。其次,设计了一个空间注意模块。通过使用平均池化操作来聚合特征映射的空间信息来生成一维映射来表示空间上的平均合并特征,然后经过3*3的卷积核进行卷积来对RGB图像的边缘表观信息进行提取。最后,利用长短期记忆(long short-term memory,LSTM)来提取密集光流中的时间序列信息。在数据集UCF101、HMDB51上进行实验,实验表明,与其它基于深度学习的方法相比,具有一定的优势。

关 键 词：人体行为识别 双流网络 卷积编码器 全局多头自注意机制 空间注意力模块 

分 类 号：TP391.41[自动化与计算机技术—计算机应用技术]