融合注意力机制的多通道卷积与双向GRU模型的文本情感分析研究  

Sentiment Analysis Based on Multi-channel Convolution and Bi-directional GRU with Attention Mechanism

作　　者：袁和金 张旭 牛为华[1] 崔克彬[1] YUAN Hejin;ZHANG Xu;NIU Weihua;GUI Kebin(School of Control&Computer Engineering,North China Electric Power University,Baoding,Hebei 071003,China)

机构地区：[1]华北电力大学控制与计算机工程学院

出　　处：《中文信息学报》2019年第10期109-118,共10页Journal of Chinese Information Processing

基　　金：华北电力大学中央高校基本科研业务费专项(2017MS157)

摘　　要：文本情感分析作为自然语言处理领域的一大分支,具有非常高的研究价值。该文提出了一种基于多通道卷积与双向GRU网络的情感分析模型。该模型首先使用多通道卷积神经网络对文本不同粒度的特征信息进行提取,提取后的特征信息经过融合送入双向GRU中,结合注意力机制获得文本的上下文情感特征,最后由分类器给出文本的情感倾向。注意力机制自适应的感知上下文信息进而提取对情感极性影响较强的特征,在模型的基础上引入Maxout神经元,解决模型训练过程中的梯度弥散问题。模型在IMDb及SST-2数据集上进行实验,实验结果表明本文模型较CNN-RNN模型在分类精确度上有了一定程度的提升。This paper proposes a model using multi-channel convolution and bidirectional GRU for the sentiment analysis task.The multi-channel convolutional layer is used to extract the text feature with different granularity.The extracted features are merged into the bi-directional GRU with the attention mechanism to obtain the context sentiment features to classify the sentiment polarity.Attention mechanism adaptively perceives context information and extracts features that have strong influences on sentiment polarity using Maxout to solve the gradient vanishing in the training process.According to the classification accuracy on IMDb dataset and SST-2 dataset,the model performs better than neuron network models based on CNN-RNN architecture.

关 键 词：文本情感分析 多通道卷积 门限循环单元 注意力机制 

分 类 号：TP391[自动化与计算机技术—计算机应用技术]