接收与处理分离的实时大数据处理模型
在大数据处理系统中,系统对数据处理效率、安全、稳定性有非常高的要求.为了满足对大数据实时、高效、稳定处理的需求,文章提出了一种接收与处理分离的数据处理模型,数据处理模型由数据接收单元、内存数据库、原始数据分发单元、数据处理单元、处理数据分发单元、数据归并单元组成,接收单元负责接收、整合结构化数据与非结构化数据,把每条完整的数据放入内存数据库中,分发单元从内存数据库中检测获取数据,按照海量数据负载均衡算法把数据分发到数据处理单元,数据处理单元处理数据,处理结果放入内存数据库,处理数据分发单元继续从内存数据库中获取处理后的数据并按照海量数据负载均衡算法把数据分发给数据归并单元,实验证明,使用本模型方法,系统保持了非常高效的处理效率.
数据库 数据处理 系统模型 运行效率
彭建华 李臣明 邱军林 李晓芳 徐立中
河海大学计算机与信息学院 南京210098 常州工学院 常州213002
国内会议
北京
中文
1-8
2014-12-01（万方平台首次上网日期，不代表论文的发表时间）