- 浏览: 198243 次
- 性别:
- 来自: 河北
文章分类
最新评论
-
6420285:
你的文章很棒,很多地方讲的通俗易懂,非常感谢。 ...
深入掌握JMS(一):JSM基础 -
xs.cctv:
不错
zeroDateTimeBehavior=convertToNull -
hanyannan0123:
搞不清楚,此话属于经典呢,还是废话。
超类 好 -
czy584521:
```我肯定他用了谷歌金山词霸
IBM的面试官被我忽悠蒙了 -
yuantong:
老板跳槽?什么概念
我们老板跳槽了 !!!
hadoopjvm参数配置
Hadoop中有个参数是mapred.job.reuse.jvm.num.tasks,默认是1,表示一个JVM上最多可以顺序执行的task数目(属于同一个Job)是1。也就是说一个task启一个JVM。
比如我配的是每个slave节点最多同时运行8个map和8个reduce。那么在map阶段,slave节点会启动最多8个JVM用于map。如下:
root@slave1:~# jps
28291 Child
28290 Child
28281 Child
28293 Child
28277 Child
1487 DataNode
28298 Child
28273 Child
28272 Child
1636 TaskTracker
28799 Jps
root@slave1:~# ps -e | grep java
1487 ? 00:53:26 java
TaskTracker
1636 ? 00:12:42 java
DataNode
28272 ? 00:00:35 java
Child
28273 ? 00:00:35 java
Child
28277 ? 00:00:36 java
Child
28281 ? 00:00:36 java
Child
28290 ? 00:00:36 java
Child
28291 ? 00:00:37 java
Child
28293 ? 00:00:36 java
Child
28298 ? 00:00:36 java
Child
其中前两个是固定的进程。
为每个task启动一个新的JVM将耗时1秒左右,对于运行时间较长(比如1分钟以上)的job影响不大,但如果都是时间很短的task,那么频繁启停JVM会有开销。
如果我们想使用JVM重用技术来提高性能,那么可以将mapred.job.reuse.jvm.num.tasks设置成大于1的数。这表示属于同一job的顺序执行的task可以共享一个JVM,也就是说第二轮的map可以重用前一轮的JVM,而不是第一轮结束后关闭JVM,第二轮再启动新的JVM。
那么最多一个JVM能顺序执行多少个task才关闭呢?这个值就是mapred.job.reuse.jvm.num.tasks。如果设置成-1,那么只要是同一个job的task(无所谓多少个),都可以按顺序在一个JVM上连续执行。
如果task属于不同的job,那么JVM重用机制无效,不同job的task需要不同的JVM来运行。
注意:
JVM重用技术不是指同一Job的两个或两个以上的task可以同时运行于同一JVM上,而是排队按顺序执行。
一个tasktracker最多可以同时运行的task数目由mapred.tasktracker.map.tasks.maximum和mapred.tasktracker.reduce.tasks.maximum
决定,并且这两个参数在mapred-site.xml中设置。其他方法,如在JobClient端通过命令行
-Dmapred.tasktracker.map.tasks.maximum=number或者conf.set("mapred.tasktracker.map.tasks.maximum","number")设置都是无效的。
附《Hadoop权威指南》上的介绍:
Task JVM Reuse
Hadoop runs tasks in their own Java Virtual Machine to isolate them from other running tasks. The overhead of starting a new JVM for each task can take around a second, which for jobs that run for a minute or so is insignificant. However, jobs that have a large number of very short-lived tasks (these are usually map tasks), or that have lengthy initialization, can see performance gains when the JVM is reused for subsequent tasks.
With task JVM reuse enabled, tasks do not run concurrently in a single JVM. The JVM runs tasks sequentially. Tasktrackers can, however, run more than one task at a time, but this is always done in separate JVMs. The properties for controlling the tasktrackers number of map task slots and reduce task slots are discussed in “Memory” on page 269.
The property for controlling task JVM reuse is mapred.job.reuse.jvm.num.tasks: it specifies the maximum number of tasks to run for a given job for each JVM launched; the default is 1 (see Table 6-4). Tasks from different jobs are always run in separate JVMs. If the property is set to –1, there is no limit to the number of tasks from the same job that may share a JVM. The method setNumTasksToExecutePerJvm() on JobConf can also be used to configure this property.
Tasks that are CPU-bound may also benefit from task JVM reuse by taking advantage of runtime optimizations applied by the HotSpot JVM. After running for a while, the HotSpot JVM builds up enough information to detect performance-critical sections in the code and dynamically translates the Java byte codes of these hot spots into native machine code. This works well for long-running processes, but JVMs that run for seconds or a few minutes may not gain the full benefit of HotSpot. In these cases, it is worth enabling task JVM reuse.
Another place where a shared JVM is useful is for sharing state between the tasks of a job. By storing reference data in a static field, tasks get rapid access to the shared data.
发表评论
-
Redis数据库的安装配置方
2016-02-23 11:27 701转载于:http://www.itxuexiwang.com/ ... -
NoSQL和Redis简介及Redis在Windows下的安装和使用教程
2016-02-23 11:28 577转载于:http://www.itxuexiwang.com/ ... -
redis中使用redis-dump导出、导入、还原数据实例
2016-02-25 13:26 1205转载于:http://www.itxuexiwang.com/ ... -
Redis配置文件详解
2016-03-14 16:03 519转载于:http://www.itxuexiwang.com/ ... -
在Mac OS上安装Vagrant和Docker的教程
2016-03-14 16:03 430转载于:http://www.itxuexiwang.com/ ... -
使用Redis实现用户积分排行榜的教程
2016-02-19 11:35 975转载于:http://www.itxuexiwang.com/ ... -
Redis教程(一):Redis简介
2016-03-11 12:12 549转载于:http://www.itxuexiw ... -
Redis教程(二):String数据类型
2016-03-15 15:44 429转载于:http://www.itxuexiw ... -
Redis教程(四):Hashes数据类型
2016-03-14 16:02 296转载于:http://www.itxuexiw ... -
Redis教程(六):Sorted-Sets数据类型
2016-02-19 11:35 421转载于:http://www.itxuexiwang.com/ ... -
Redis教程(八):事务详解
2016-03-14 16:03 347转载于:http://www.itxuexiw ... -
Redis教程(七):Key操作命令详解
2016-03-15 15:44 357转载于:http://www.itxuexiwang.com/ ... -
Redis教程(九):主从复制配置实例
2016-02-19 11:35 579转载于:http://www.itxuexiwang.com/ ... -
Redis教程(十二):服务器管理命令总结
2016-02-18 21:53 0转载于:http://www.itxuexiwang.com/ ... -
Redis教程(十二):服务器管理命令总结
2016-02-18 21:48 0转载于:http://www.itxuexiw ... -
Redis教程(十三):管线详解
2016-03-15 15:43 285转载于:http://www.itxuexiwang.com/ ... -
Infinispan 8 中新的 Redis 缓存存储实现
2016-02-18 17:39 656转载于:http://www.itxuexiwang.com/ ... -
黑马程序员_java08_多线程
2016-02-18 16:59 755转载于:http://www.itxuexiwang.com/ ... -
java框架篇---spring aop两种配置方式(1)
2016-02-06 23:02 602转载于:http://www.itxuexiwang.com/ ... -
Windows 7下硬盘安装Ubuntu 13.04图文教程
2016-02-05 21:58 608转载于:http://www.itxuexiw ...
相关推荐
大数据编程基础书籍:Scala 、JAVA、JVM、Netty权威、TCP-IP详解、hadoop、spark等书籍 百度网盘地址(后续会有更新)
Java虚拟机与Hadoop的介绍,附带一些源码分析
针对hadoop生态组件制定的grafana模板,包括hdfs(nn、dn)、yarn(rm、nm)、hbase(hm、rs)、hive、kafka、spark、zookeeper
在windows环境下开发hadoop时,需要配置HADOOP_HOME环境变量,变量值D:\hadoop-common-2.7.3-bin-master,并在Path追加%HADOOP_HOME%\bin,有可能出现如下错误: org.apache.hadoop.io.nativeio.NativeIO$Windows....
《Hadoop大数据开发实战》教学教案—01初识Hadoop.pdf《Hadoop大数据开发实战》教学教案—01初识Hadoop.pdf《Hadoop大数据开发实战》教学教案—01初识Hadoop.pdf《Hadoop大数据开发实战》教学教案—01初识Hadoop.pdf...
Hadoop 是一个处理、存储和分析海量的分布式、非结构化数据的开源框架。最初由 Yahoo 的工程师 Doug Cutting 和 Mike Cafarella Hadoop 是一个处理、存储和分析海量的分布式、非结构化数据的开源框架。最初由 Yahoo...
Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不了解分布式底层细节的情况下,开发分布式程序。充分利用集群的威力进 Hadoop是一个由Apache基金会所开发的分布式系统基础架构。用户可以在不...
本书从hadoop的缘起开始,由浅入深,结合理论和实践,全方位地介绍hado叩这一高性能处理海量数据集的理想工具。全书共14章,3个附录,涉及的主题包括:haddoop简介:mapreduce简介:hadoop分布式文件系统;hadoop的i...
hadoop-annotations-3.1.1.jar hadoop-common-3.1.1.jar hadoop-mapreduce-client-core-3.1.1.jar hadoop-yarn-api-3.1.1.jar hadoop-auth-3.1.1.jar hadoop-hdfs-3.1.1.jar hadoop-mapreduce-client-hs-3.1.1.jar ...
hadoop_tutorial hadoop入门经典 Hadoop 是一个能够对大量数据进行分布式处理的软件框架。Hadoop 是可靠的,因为它假设计算元素和存储会失败,因此它维护多个工作数据副本,确保能够针对失败的节点重新分布处理。...
hadoop2.7.3 Winutils.exe hadoop.dll
hadoop的dll文件 hadoop.zip
Hadoop 集群配置详解 Hadoop_Hadoop集群(第1期)_CentOS安装配置 Hadoop_Hadoop集群(第2期)_机器信息分布表 Hadoop_Hadoop集群(第4期)_SecureCRT使用 Hadoop_Hadoop集群(第5期)_Hadoop安装配置 Hadoop_Hadoop...
调用保存文件的算子,需要配置Hadoop依赖 将文件夹中的 hadoop-3.0.0 解压到电脑任意位置 在Python代码中使用os模块配置:os.environ[‘HADOOP_HOME’] = ‘HADOOP解压文件夹路径’ winutils.exe,并放入Hadoop解压...
Apache Hadoop (hadoop-3.3.4.tar.gz)项目为可靠、可扩展的分布式计算开发开源软件。官网下载速度非常缓慢,因此将hadoop-3.3.4 版本放在这里,欢迎大家来下载使用! Hadoop 架构是一个开源的、基于 Java 的编程...
6.3 性能调优 6.3.1 通过combiner来减少网络流量 6.3.2 减少输入数据量 6.3.3 使用压缩 6.3.4 重用JVM 6.3.5 根据猜测执行来运行 6.3.6 代码重构与算法重写 6.4 小结 第7章 细则手册 7.1 向任务传递作业...
Hadoop大数据资料集锦Hadoop大数据资料集锦Hadoop大数据资料集锦Hadoop大数据资料集锦
hadoop2.6.0 hadoop.dll包括winutils.exe
Hadoop实现了一个分布式文件系统(Hadoop Distributed File System),简称HDFS。HDFS有高容错性的特点,并且设计用来部署在低廉的(low-cost)硬件上;而且它提供高吞吐量(high throughput)来访问应用程序的数据,适合...
支持如下版本的Hadoop hadoop-2.6.0 hadoop-2.6.3 hadoop-2.6.4 hadoop-2.7.1 hadoop-2.8.1 hadoop-2.8.3 hadoop-3.0.0