kubernetes和livy的Spark图

bz4sfanl  于 2021-05-17  发布在  Spark
关注(0)|答案(0)|浏览(335)

我正在尝试导入在kubernetes上运行的spark cluster上的graphframes。
spark版本:2.3.0,livy和sparkmagic.magics用于使用jupiter笔记本连接到集群
我尝试的第一个代码:

%load_ext sparkmagic.magics
%%spark config
{"executorCores":2,"numExecutors":2,"executorMemory":"5G","conf":{"spark.jars.packages":"graphframes:graphframes:0.7.0-spark2.3-s_2.11"}}
%spark add -s session_name -l python -u http://spark-livy.cluster:8998
%%spark -s session_name
from graphframes import *

错误出现在我尝试导入graphframe时,在本例中,spark应用程序成功启动。
第一个代码的错误屏幕截图
我试过的第二个密码

%load_ext sparkmagic.magics
%%spark config
{"executorCores":2,"numExecutors":2,"executorMemory":"5G","jars":["graphframes:graphframes:0.5.0-spark2.0-s_2.11"],"conf":{"spark.jars.packages":"graphframes:graphframes:0.5.0-spark2.0-s_2.11"}
%spark add -s session_name -l python -u http://spark-livy.cluster:8998

}
启动spark会话时出错
第二个代码的错误截图
任何关于如何使用livy在kubernetes集群的spark上运行graphframes的帮助都会非常有用。

暂无答案!

目前还没有任何答案,快来回答吧!

相关问题