在mesos dcos集群中运行的应用程序的spark提交

gev0vcfq  于 2021-06-26  发布在  Mesos
关注(0)|答案(1)|浏览(360)

我有一个mesos dcos集群运行在aws上,通过安装spark dcos package install spark 命令。我能够使用dcos cli成功执行spark作业: dcos spark run ... 现在我想从mesos集群中运行的docker容器执行spark作业,但是我不太确定如何到达spark的运行示例。这个想法是让一个docker容器执行 spark-submit 命令将作业提交到spark部署,而不是使用dcos cli从集群外部执行同一作业。
当前的文档似乎只关注通过dcos cli运行spark—是否有任何方法可以从集群内运行的另一个应用程序访问spark部署?

uemypmqf

uemypmqf1#

dcos物联网演示尝试类似的东西。https://github.com/amollenkopf/dcos-iot-demo
这家伙运行一个spark docker和一个马拉松应用程序中的spark提交。检查以下描述:https://github.com/amollenkopf/dcos-iot-demo/blob/master/spatiotemporal-esri-analytics/rat01.json

相关问题