hadoop post-hook和作业完成通知

sz81bmfz  于 2021-05-29  发布在  Hadoop
关注(0)|答案(1)|浏览(400)

我想将hadoop作业输出导入配置单元表。如何在map reduce作业/流中实现post挂钩?或者其他自动选项?
我也会在工作完成后通知,如发送电子邮件给用户。我发现这个:https://issues.apache.org/jira/browse/hadoop-1111,但我不太明白怎么做,因为我是MapReduce新手。
谢谢。

qyyhg6bp

qyyhg6bp1#

conf.set("mapreduce.job.end-notification.url","url") 就行了。这个 url 应该是一个 http url 在那里你会收到回电。
来自javadocs:
设置要调用的uri,以便在作业完成(成功/失败)后发送通知。
uri可以包含两个特殊参数:$jobid和$jobstatus。如果存在,则分别由作业的标识符和完成状态替换。
这通常由应用程序编写器用于以异步方式实现map reduce作业的链接。
请注意,较旧的hadoop版本使用 job.end.notification.url .
它在新版本中被弃用,取而代之的是 mapreduce.job.end-notification.url .
参考 mapred-default.xml#mapreduce.job.end-notification.url .

相关问题