异构环境下的Hadoop负载均衡策略研究

作者:刘帅酝

摘要:Hadoop是大数据处理的基础框架,负载均衡策略的优劣对Hadoop集群的处理性能有着非常重要影响。现有调度算法的一个基本假设是每个节点的性能相近,因此分配任务时仅需考虑节点的空余槽数即可。但在异构Hadoop集群中,各个节点在CPU、磁盘、内存等方面都存在差异,标准Hadoop调度算法容易发生不合理调度,导致负载不均衡,从而影响整个集群的性能。提出了一种新的负载均衡算法LBAHE (Load Balancing Algorithm Based on Heterogeneous Environment),将CPU、磁盘、内存等作为调整因子加入到节点分配任务调度中,实现在异构集群下的优化调度。仿真实验结果表明,算法能够实现更有效的负载均衡,有效提高Hadoop在异构环境下的执行性能。

分类:
  • 期刊
  • >
  • 自然科学与工程技术
  • >
  • 信息科技
  • >
  • 计算机软件及计算机应用
收录:
  • 知网收录(中)
  • 万方收录(中)
  • 上海图书馆馆藏
  • 国家图书馆馆藏
  • 维普收录(中)
关键词:
  • 负载均衡
  • 异构集群
  • 任务调度
  • hadoop框架
  • lbahe算法

注:因版权方要求,不能公开全文,如需全文,请咨询杂志社

期刊名称:电脑编程技巧与维护

期刊级别:部级期刊

期刊人气:7251

杂志介绍:
主管单位:中华人民共和国工业和信息化部
主办单位:中国信息产业商会
出版地方:北京
快捷分类:计算机
国际刊号:1006-4052
国内刊号:11-3411/TP
邮发代号:82-715
创刊时间:1994
发行周期:月刊
期刊开本:A4
下单时间:1个月内
复合影响因子:0.4
综合影响因子:0.52