基于Hadoop的高效连接查询处理算法CHMJ  

Efficient Join Query Processing Algorithm CHMJ Based on Hadoop

作　　者：赵彦荣[1,2,3] 王伟平[1,2] 孟丹[1,2] 张书彬 李均 

机构地区：[1]中国科学院计算技术研究所,北京100190 [2]中国科学院国家智能计算机研究开发中心,北京100190 [3]中国科学院研究生院,北京100049 [4]腾讯公司数据平台部,广东深圳518057

出　　处：《软件学报》2012年第8期2032-2041,共10页Journal of Software

基　　金：国家自然科学基金(60903047)

摘　　要：提出了一种并行连接查询处理算法CoLocationHashMapJoin(CHMJ).首先,设计了多副本一致性哈希算法,将具有连接关系的表根据其连接属性的哈希值在机群中进行分布,在提升了连接查询处理中数据本地性的同时,保证了数据的可用性;其次,基于多副本一致性哈希数据分布,提出了HashMapJoin并行连接查询处理算法,有效地提高了连接查询的处理效率.CHMJ算法在腾讯公司的数据仓库系统中进行了应用,结果表明,CHMJ连接查询的处理效率比Hive系统提高了近5倍.This paper proposes a join query processing algorithm CoLocationHashMapJoin （CHMJ）. First the study designs a multi-copy consistency hash algorithm. The algorithm distributes the data of tables over the cluster according to the hash values of the join property, which improves the data locality while ensure data availability. Second, based on the multi-copy consistency hash algorithm, the study proposes a parallel join query processing algorithm called HashMapJoin. HashMapJoin improves the efficiency of join query significantly. CHMJ has been used in Tencent＇s data warehouse system, and plays an important role in Tencent＇s daily analysis tasks. The results show that CHMJ improves the efficiency of join query processing by five times comparing to Hive.

关 键 词：大数据 HADOOP 连接查询处理 HashMapJoin 

分 类 号：TP311[自动化与计算机技术—计算机软件与理论]