JCapsR:一种联合胶囊神经网络的藏语知识图谱表示学习模型  

JCapsR:A Joint Capsule Neural Network for Tibetan Knowledge Graph Representation Learning

作　　者：孙媛[1,2,3] 梁家亚 陈安东 赵小兵 SUN Yuan;LIANG Jiaya;CHEN Andong;ZHAO Xiaobing(School of Information Engineering,Minzu University of China,Beijing 100081,China;National Language Resources Monitoring and Research Center for Minority Languages,Beijing 100081,China;Key Laboratony of Ethnic Language Intelligent Analysis and Secuirtey Governance of MOE,Beijing 100081,China)

机构地区：[1]中央民族大学信息工程学院,北京100081 [2]国家语言资源监测与研究少数民族语言中心,北京100081 [3]民族语言智能分析与安全治理教育部重点实验室,北京100081

出　　处：《中文信息学报》2024年第4期69-77,共9页Journal of Chinese Information Processing

基　　金：国家自然科学基金(61972436);中央民族大学项目(GRSCP202316,2023QNYL22)。

摘　　要：知识图谱表示学习是自然语言处理的一项关键技术,现有的知识图谱表示研究主要集中在英语、汉语等语言,而低资源语言的知识图谱表示学习研究还处于探索阶段,如藏语。该文基于前期构建的藏语知识图谱,提出了一种联合胶囊神经网络(JCapsR)的藏语知识图谱表示学习模型。首先,我们使用TransR模型生成藏语知识图谱的结构化信息表示。其次,采用融合多头注意力和关系注意力的Transfomer模型表示藏语实体的文本描述信息。最后,采用JCapsR进一步提取三元组在知识图谱语义空间中的关系,将实体文本描述信息和结构化信息融合,得到藏语知识图谱的表示,相比基线系统,联合胶囊神经网络JCapsR模型提高了在藏语知识图谱上实体链接预测的性能,相关研究为其他低资源语言知识图谱表示学习的拓展优化提供了参考借鉴意义。The knowledge graph representation learning is a key technology in the field of natural language processing.The existing research on knowledge graph representation mainly focuses on English and Chinese.This paper proposes a Joint Capsule Neural Network(JCapsR)model for Tibetan knowledge graph representation based on Tibetan knowledge graph.Firstly,we use the TransR model to generate a structured information representation of the Tibetan knowledge graph.Secondly,we apply a a Transfomer model incorporating multiple-head attention and relational attention to learn the entity text description information representation.Finally,we fuse the above two representations by the JCapsR model to obtain the final representation of Tibetan knowledge graph.The experimental results show that the JCapsR model is more effective than the baselines in Tibetan knowledge graph representation learning.

关 键 词：藏语知识图谱 表示学习 胶囊神经网络 

分 类 号：TP391[自动化与计算机技术—计算机应用技术]