基于BERT-CNN的中文评论文本情感分析  

Sentiment Analysis of Hotel Review Text Based on BERT-CNN

作　　者：邵辉[1] SHAO Hui(Guangdong Polytechnic of Science and Technology,Zhuhai,Guangdong Province,519090 China)

机构地区：[1]广东科学技术职业学院,广东珠海519090

出　　处：《科技创新导报》2021年第31期179-183,共5页Science and Technology Innovation Herald

基　　金：2021年珠海市哲学社会科学规划课题(项目编号:2021YBB073);广东科学技术职业学院2021年度校级教育教学改革研究与实践项目(项目编号:JG202104);广东省普通高校创新团队项目(项目编号:2021KCXTD079);2020年广东省普通高校重点科研平台项目,数字工场产教融合创新平台(项目编号:2020CJPT006);2021年广东省科技厅科研平台项目,广东省智慧职教工程技术研究中心(项目编号:2021A118)。

摘　　要：对中文酒店评论文本,CNN、BIGRU等模型无法充分获得文本上下文之间的关系,因此在情感分析上没有很好的效果。BERT模型提出后,它在文本上下文之间的关系的提取上有着很大的优势。以此为基础,本文提出一种基于预训练的(BERT)网络与卷积神经网络(CNN)相结合的BERT-CNN模型得到酒店评论中更多的情感信息。首先利用BERT模型对评论文本信息编码,再通过CNN模型提取局部特征,最终提取语义。最后通过实验来将该模型与现有模型进行比较,在酒店评论数据集上所做的实验充分表明该方法能更准确地进行中文文本情感分析。For Chinese hotel review texts,some state-of-art models,such as CNN and BIGRU cannot fully extract the meaning and therefore result in unsatisfactory sentiment analysis.After the BERT model is proposed,it has a great advantage in extracting the relationship between text contexts.Based on this,this paper proposes a BERT-CNN network model based on the combination of pre-trained(BERT)network and convolutional neural network(CNN)to obtain more emotional information in hotel reviews.First,use the BERT model to encode the review text information,and then extract the local features of the sentence through the convolutional neural network,and finally extract the semantics.Finally,through experiments,the model is compared with the existing model,experiments done on the hotel review dataset fully show that this method can perform Chinese text sentiment analysis more accurately.

关 键 词：BERT 卷积神经网络 情感分析 自注意力机制 双向编码转换器 

分 类 号：TP391.1[自动化与计算机技术—计算机应用技术] TP301.6[自动化与计算机技术—计算机科学与技术]