当前位置:网站首页 > R语言数据分析 > 正文

yarn队列配置(yarn 配置)



yarn作为hadoop的资源分配和调度的基础组件,有哪些相关的参数是和这个组件有关呢?

  1. ResourceManager相关
 
  1. NodeManager相关
 
  1. Container相关
 

那在部署环境我们要怎么分配呢?
eg:3台服务器,每台配置4G内存,4核CPU,4线程,如果我们处理的是1G的文件进行数据的count统计,
那么就会有 1G/128M=8个MapTask 1个ReduceTask,1个MrAppMaster,平均下来就是每个节点有3个任务,
那我们按4 3 3 的比例分配10个任务。

那我们就按照上边的参数进行配置下我们的yarn-site.xml文件

 

按上边的配置修改,我们会得到最后更加符合我们服务器硬件参数的yarn资源集群。

到此这篇yarn队列配置(yarn 配置)的文章就介绍到这了,更多相关内容请继续浏览下面的相关推荐文章,希望大家都能在编程的领域有一番成就!

版权声明


相关文章:

  • aurora什么牌子,价格(auro是什么牌子)2025-01-05 16:09:09
  • 查看docker0(查看docker是否安装成功)2025-01-05 16:09:09
  • hrnetone待遇怎么样(hrnet one工资高吗)2025-01-05 16:09:09
  • dbf文件用什么打开(prj文件用什么打开)2025-01-05 16:09:09
  • xavier是什么牌子鞋子(xvov是什么品牌鞋子)2025-01-05 16:09:09
  • tornados(tornado手表)2025-01-05 16:09:09
  • oracle教程(oracle教程文档)2025-01-05 16:09:09
  • ardbeg怎么读(argued怎么读?)2025-01-05 16:09:09
  • 卷积层stride(resnet50有多少个卷积层)2025-01-05 16:09:09
  • spring入门视频(spring教程视频)2025-01-05 16:09:09
  • 全屏图片