HDFS

作品数:573被引量:2069H指数:20
导出分析报告
相关领域:自动化与计算机技术更多>>
相关作者:林文辉伍卫国魏伟刘晓洁何连跃更多>>
相关机构:北京邮电大学电子科技大学华南理工大学南京邮电大学更多>>
相关期刊:更多>>
相关基金:国家自然科学基金国家科技支撑计划国家高技术研究发展计划中央高校基本科研业务费专项资金更多>>
-

检索结果分析

结果分析中...
选择条件:
  • 期刊=计算机应用与软件x
条 记 录,以下是1-10
视图:
排序:
一种基于LRFU缓存替换策略的HDFS客户端本地缓存设计与实现被引量:4
《计算机应用与软件》2018年第5期15-20,94,共7页谢磊 吴建华 廖卓凡 罗可 
国家自然科学基金项目(61402056)
Hadoop底层基础存储框架Hadoop分布式文件系统HDFS(Hadoop Distributed File System)是采用基于Master/Slave主从构架设计的分布式文件系统。Name Node负责管理所有文件的元数据和处理客户端对文件的访问。随着应用数据的不断增加,Data ...
关键词:HDFS 主从架构 LRFU 客户端 缓存 
基于预测模型的HDFS集群负载均衡优化与研究被引量:2
《计算机应用与软件》2018年第5期149-156,201,共9页于磊春 陈健美 刘响 胡杨 
针对HDFS集群默认负载均衡策略中判定阈值的设定具有主观性、滞后性以及衡量指标单一性等问题,通过分析HDFS集群架构搭建、HDFS集群处理对象以及集群本身动态实时变化等特点,结合研究一些负载均衡策略中阈值改进算法,提出一种基于预测...
关键词:HDFS集群 预测模型 文件属性 集群属性 阈值 负载均衡 
基于频繁项集挖掘算法的伴随车应用与实现被引量:3
《计算机应用与软件》2017年第4期60-64,共5页陈瑶 桂峰 卢超 王华 
上海市科学技术委员会应用技术开发专项(2014-104)
随着大数据技术的发展和交通数据量迅速膨胀的挑战,对海量交通数据进行伴随车挖掘已然成为研究热点。提出一种基于Spark计算框架的频繁项集挖掘算法应用于伴随车挖掘模块当中,对海量的卡口交通数据进行Hadoop分布式文件存储(HDFS),并将...
关键词:HDFS Spark计算框架 频繁项集挖掘 伴随车 
基于Hadoop平台的农产品价格数据爬取和存储系统的研究被引量:4
《计算机应用与软件》2017年第3期76-80,共5页杨晓东 郜鲁涛 杨林楠 刘建阳 
国家"十二五"科技支撑计划课题(2014BAD10B03)
目前许多大型农贸市场和农业信息商务平台都在实时发布每天各地区不同农产品的价格数据。针对数据更新快、数据量大、数据形式多样,使数据的爬取和存储以及后续的分析工作变得困难,提出基于Hadoop的农产品价格爬取及存储系统。利用HttpC...
关键词:分布式系统 爬虫 HADOOP HDFS 正则表达式 
适应冷热数据存储的多编码架构的设计与实证被引量:5
《计算机应用与软件》2017年第2期35-41,共7页魏学才 宫庆媛 沈佳杰 周扬帆 王新 
国家自然科学基金项目(61571136);上海市"科技创新行动计划"项目(14511101000);综合业务网理论及关键技术国家重点实验室开放研究课题(ISN15-08)
随着互联网技术的发展,数据爆炸性增长,互联网的实际应用也已广泛依赖于海量数据的存储。实际的互联网应用往往需要存储多种类型数据,根据数据被访问频率差异可以将数据划分为冷热数据。然而,现有的编码存储机制往往只能采用固化的实现...
关键词:分布式数据存储 HDFS 编码存储 
Hadoop异构集群中数据负载均衡的研究被引量:6
《计算机应用与软件》2016年第5期31-34,共4页张松 杜庆伟 孙静 孙振 
国家自然科学基金项目(61202350)
Hadoop平台下,数据的负载均衡对平台性能的发挥有着深远的影响。首先分析默认数据负载均衡的局限性,针对现有默认HDFS(Hadoop Distributed File System)数据负载均衡算法只考虑存储空间利用率,而未考虑节点间异构性的问题,提出一种量化...
关键词:HADOOP HDFS 数据负载均衡 异构集群 
基于HDFS的创新知识云平台存储架构的研究与设计被引量:4
《计算机应用与软件》2016年第3期62-66,共5页马建红 霍振奇 
针对现有存储结构无法满足海量创新知识带来的存储及服务需求的问题,提出一种改进的HDFS(Hadoop Distributed File System)分布式存储系统并应用到创新知识云平台。首先引入包文件及分布式索引服务,改进HDFS小文件存储的效率问题,然后...
关键词:创新知识 HDFS 小文件存储 单点故障 
一种提高海量电子健康档案存储性能的方法被引量:2
《计算机应用与软件》2016年第1期21-23,41,共4页杨志芬 陈绮 
海南省教育厅自然科学类重点项目(Hj kj2013-03)
医疗旅游是目前兴起的一个新型产业,面对今后日益增长的巨大数据,有效数据的存储和用户的快速访问是急需解决的课题。Hadoop的出现满足了这一需求。但Hadoop并不适合用来处理大量的小文件,其HDFS(Hadoop distributed file system)采用...
关键词:HADOOP HDFS 小文件 存储效率 数据预取 
农业海量信息资源管理平台设计与实现被引量:7
《计算机应用与软件》2015年第3期75-78,104,共5页孙想 吴华瑞 李庆学 
国家科技支撑计划项目(2011BAD21B02);北京市自然科学基金项目(4122034)
随着农业信息化的深入,如何描述、存储、管理和处理海量分布信息资源成为农业应用的首要问题。提出基于XML/XML Schema的统一农业信息资源描述框架,将XML描述与元数据约束相结合,采用层次化管理结构实现元数据与资源信息的组织;在HDFS(H...
关键词:XML SCHEMA HDFS 资源描述框架 农业信息管理 
基于HDFS管理MapGIS K9瓦片地图集的研究与实现被引量:8
《计算机应用与软件》2013年第12期232-235,共4页万波 党琦 杨林 
关系型数据库在管理海量空间数据时遇到诸多瓶颈,HDFS(Hadoop Distributed Filesystem)通过将大数据分割为多个小数据块,并将其分别存储在多个数据节点组成的分布式集群中,成为一种新的存储海量空间数据的方法。使用HDFS作为平台,利用...
关键词:海量空间数据 管理 HDFS 瓦片地图集 
检索报告 对象比较 聚类工具 使用帮助 返回顶部