hadoop:如何将web日志保存到本地文件?

eqzww0vc  于 2021-07-13  发布在  Hadoop
关注(0)|答案(1)|浏览(434)

我想知道是否有可能保存作业(容器)的hadoop(Yarn)web日志到本地文件?现在我可以检查所有的登录浏览器,但当日志太长,我的浏览器崩溃。我不能进入datalake。将web日志保存到我可以在本地分析的文件中的最佳方法是什么?

yi0zb3m4

yi0zb3m41#

你可以用 yarn logs -applicationId 命令,通过shell重定向输出到文件
或者您可以从运行代码的节点管理器中scp出该文件
更好的解决方案包括设置日志收集器,如fluentd或filebeat,将日志流式传输到elasticsearch中,以便对其进行分析

相关问题