资料介绍
随着基于Hadoop平台的大数据技术的不断发展和实践的深入,Hadoop YARN资源调度策略在异构集群中的不适用性越发明显。一方面,节点资源无法动态分配,导致优势节点的计算资源浪费、系统性能没有充分发挥;另一方面,现有的静态资源分配策略未考虑作业在不同执行阶段的差异,易产生大量资源碎片。基于以上问题,提出了一种负载自适应调度策略。监控集群执行节点和提交作业的性能信息,利用实时监控数据建模、量化节点的综合计算能力,结合节点和作业的性能信息在调度器上启动基于相似度评估的动态资源调度方案。优化后的系统能够有效识别集群节点的执行能力差异,并根据作业任务的实时需求进行细粒度的动态资源调度,在完善YARN现有调度语义的同时,可作为子级资源调度方案架构在上层调度器下。在Hadoop 2.O上实现并测试该策略,实验结果表明,作业的自适应资源调度策略显著提高了资源利用率,集群并发度提高了2到3倍,时间性能提升了近10%。

下载该资料的人也在下载
下载该资料的人还在阅读
更多 >
- 自适应反馈消除 3
- 基于桥式吊车系统的分组自适应控制策略 22次下载
- 一种基于自适应邻域策略的改进算法 10次下载
- 异构环境下的多DAG任务调度算法综述 13次下载
- 面向异构领域自适应的联合信息保持算法 5次下载
- 基于节点分布自适应的WSN覆盖控制优化策略 25次下载
- 总线负载的自适应频率调节 2次下载
- 自适应元数据服务负载均衡策略 0次下载
- 一种新的调度策略优化Spark在异构集群下表现 0次下载
- 基于Ubuntu的Hadoop集群安装与配置 8次下载
- 异构集群服务器的动态加权负载均衡算法
- 基于有限反馈的数据流数自适应SDMA
- 基于反馈的带宽自适应无线监控系统
- 结构化P2P自适应混合负载均衡策略
- 树型网格计算环境下的自适应任务调度算法
- 【产品介绍】Altair PBS Professional HPC工作负载管理器和作业调度管理系统 445次阅读
- 利用AMD VERSAL自适应SoC的设计基线策略 677次阅读
- 虚拟机:Hadoop集群的配置 3.2k次阅读
- 虚拟机:Hadoop集群的搭建 3.8k次阅读
- 工业机器人自适应运动控制技术 2.4k次阅读
- 汽车开关的关键技术自适应触觉的详细介绍 2.4k次阅读
- 什么是Hadoop? Spark和Hadoop对比 7.1k次阅读
- 自适应控制的优缺点_自适应控制存在的问题及发展 5.3w次阅读
- 什么是自适应控制_自适应控制基本原理 5.8w次阅读
- hadoop云存储解决方案 7.1k次阅读
- hadoop基础知识介绍_hadoop是什么语言开发的_hadoop能做什么 4w次阅读
- hadoop技术原理总结 4.5k次阅读
- hadoop优缺点分析 1.8w次阅读
- 自适应滤波算法理解与应用 2.7w次阅读
- 浅析Hadoop集群硬件选择 1.9k次阅读
下载排行
本周
- 1MDD品牌三极管MMBT3906数据手册
- 2.33 MB | 次下载 | 免费
- 2MDD品牌三极管S9012数据手册
- 2.62 MB | 次下载 | 免费
- 3联想flex2-14D/15D说明书
- 4.92 MB | 次下载 | 免费
- 4收音环绕扩音机 AVR-1507手册
- 2.50 MB | 次下载 | 免费
- 524Pin Type-C连接器设计报告
- 1.06 MB | 次下载 | 免费
- 6新一代网络可视化(NPB 2.0)
- 3.40 MB | 次下载 | 免费
- 7MS1000TA 超声波测量模拟前端芯片技术手册
- 0.60 MB | 次下载 | 免费
- 8MS1022高精度时间测量(TDC)电路数据手册
- 1.81 MB | 次下载 | 免费
本月
- 1爱华AIWA HS-J202维修手册
- 3.34 MB | 37次下载 | 免费
- 2PC5502负载均流控制电路数据手册
- 1.63 MB | 23次下载 | 免费
- 3NB-IoT芯片厂商的资料说明
- 0.31 MB | 22次下载 | 1 积分
- 4H110主板CPU PWM芯片ISL95858HRZ-T核心供电电路图资料
- 0.63 MB | 6次下载 | 1 积分
- 5UWB653Pro USB口测距通信定位模块规格书
- 838.47 KB | 5次下载 | 免费
- 6技嘉H110主板IT8628E_BX IO电路图资料
- 2.61 MB | 4次下载 | 1 积分
- 7苏泊尔DCL6907(即CHK-S007)单芯片电磁炉原理图资料
- 0.04 MB | 4次下载 | 1 积分
- 8100W准谐振反激式恒流电源电路图资料
- 0.09 MB | 2次下载 | 1 积分
总榜
- 1matlab软件下载入口
- 未知 | 935137次下载 | 10 积分
- 2开源硬件-PMP21529.1-4 开关降压/升压双向直流/直流转换器 PCB layout 设计
- 1.48MB | 420064次下载 | 10 积分
- 3Altium DXP2002下载入口
- 未知 | 233089次下载 | 10 积分
- 4电路仿真软件multisim 10.0免费下载
- 340992 | 191439次下载 | 10 积分
- 5十天学会AVR单片机与C语言视频教程 下载
- 158M | 183353次下载 | 10 积分
- 6labview8.5下载
- 未知 | 81602次下载 | 10 积分
- 7Keil工具MDK-Arm免费下载
- 0.02 MB | 73822次下载 | 10 积分
- 8LabVIEW 8.6下载
- 未知 | 65991次下载 | 10 积分
电子发烧友App





创作
发文章
发帖
提问
发资料
发视频
上传资料赚积分
评论