会议专题

一种基于历史信息的一致性哈希集群重复数据删除路由策略

全球数据量爆炸式增长,单节点重复数据删除系统已不能满足性能需求,集群重复数据删除系统应运而生.如何提高数据传输效率、节约网络带宽和增强系统的可扩展性,成为当前面临的严峻挑战.提出一种基于历史数据信息的一致性哈希路由策略,通过在本地缓存热点数据块指纹,数据路由前先在本地索引,可以大大减少索引消息请求数量,并且采用一致性哈希的路由策略,有效的缓解集群系统中动态扩展存储节点导致的全局数据重删率急剧恶化与负载不均.我们在三类真实的数据集上进行试验,能减少20%~80%的指纹消息请求,动态扩展存储节点导致数据缩减率降低保持在33%以下,并且能够很好地保持系统节点间负载均衡.

数据库 重复信息 数据删除 一致性哈希路由算法

邢玉轩 肖侬 刘芳 付印金 李芳 巫小泉

国防科学技术大学计算机学院,湖南长沙410073 解放军理工大学指挥信息系统学院,江苏南京,210007

国内会议

第二届CCF大数据学术会议

北京

中文

1-6

2014-12-01(万方平台首次上网日期,不代表论文的发表时间)