jvm Hadoop JavaMap器-copyFromLocal堆大小错误

epfja78i  于 2022-11-23  发布在  Hadoop
关注(0)|答案(1)|浏览(82)

作为Java mapper的一部分,我有一个命令在本地节点上执行一些代码,并将本地输出文件复制到hadoop fs。
初始化VM时出错
无法为对象堆保留足够的空间
我试过将mapred.map.child.java.opts调整为-Xmx 512 M,但不幸的是没有成功。
当我ssh进入节点时,我可以运行-copyFromLocal命令而没有任何问题。输出文件也相当小,大约100 kb。
任何帮助将不胜感激!

u59ebvdq

u59ebvdq1#

Map器或reducer中的无限循环可能导致内存不足错误。
我曾经遇到过OoM,当我有一个while-loop,它用iterator.hasNext()作为条件,用于reducer值,并且没有iterator.next在循环中调用www.example.com()。

相关问题