当前位置:网站首页 > R语言数据分析 > 正文

yarn队列配置(yarn 配置)



yarn作为hadoop的资源分配和调度的基础组件,有哪些相关的参数是和这个组件有关呢?

  1. ResourceManager相关
 
  1. NodeManager相关
 
  1. Container相关
 

那在部署环境我们要怎么分配呢?
eg:3台服务器,每台配置4G内存,4核CPU,4线程,如果我们处理的是1G的文件进行数据的count统计,
那么就会有 1G/128M=8个MapTask 1个ReduceTask,1个MrAppMaster,平均下来就是每个节点有3个任务,
那我们按4 3 3 的比例分配10个任务。

那我们就按照上边的参数进行配置下我们的yarn-site.xml文件

 

按上边的配置修改,我们会得到最后更加符合我们服务器硬件参数的yarn资源集群。

到此这篇yarn队列配置(yarn 配置)的文章就介绍到这了,更多相关内容请继续浏览下面的相关推荐文章,希望大家都能在编程的领域有一番成就!

版权声明


相关文章:

  • aurora什么牌子,价格(auro是什么牌子)2025-01-05 16:09:09
  • gridlayout居中(gridlayout用法)2025-01-05 16:09:09
  • treesizefree设置最佳配置(treesize怎么用)2025-01-05 16:09:09
  • spring揭秘pdf百度网盘(spring揭秘pdf下载)2025-01-05 16:09:09
  • yarn top命令(yarn top命令解读)2025-01-05 16:09:09
  • tornados(tornado手表)2025-01-05 16:09:09
  • cruise安装步骤(cruise2014安装教程)2025-01-05 16:09:09
  • impdp参数transform(impdp参数content)2025-01-05 16:09:09
  • oracle教程(oracle教程文档)2025-01-05 16:09:09
  • spring教程(spring教程入门)2025-01-05 16:09:09
  • 全屏图片