在kubernetes上启用了spark动态定位?

hfsqlsce  于 2021-05-27  发布在  Spark
关注(0)|答案(1)|浏览(332)

spark2.4.5的最新文档建议在以后的工作中使用“动态资源分配和外部无序服务”,然而,我也发现了spark2.2.0的一些旧文档,建议在设置外部无序服务之后支持它。
您是否已成功启用kubernetes上的spark动态分配?如果是,您面临哪些挑战?您参考了哪些文档?
我们目前正在为spark使用aws emr服务,并希望在启用动态分配的kubernetes上试用spark。
谢谢!

b1zrtrql

b1zrtrql1#

旧文档确实属于旧的spark fork repo,它被用作与k8s相关的apachespark主存储库工作的基础和poc。如果您想启用此功能,您只能使用旧的spark 2.2.0 fork。请注意,不建议将其用于产品。

相关问题