pyspark 1.6:通过jdbc将Dataframe写入mysql时性能不佳

nxowjjhe  于 2021-06-21  发布在  Mysql
关注(0)|答案(0)|浏览(432)

我正在编写一个python应用程序,它从cassandra读取数据,通过sparkapi进行一些处理,然后通过jdbc将结果写入mysql数据库。
通过spark处理数据的整个代码只需要几秒钟,但将最后一个Dataframe(约5000行)写入mysql大约需要10分钟,因此我正在尝试如何加快这部分的速度。
这是我用来将py spark dataframe写入mysql表的代码:

df_name.write.jdbc(url=mysql_url.value,
table=tbl_name,
mode=mode.value,
properties={'user': mysql_user.value,
'password': mysql_pwd.value,
'driver': mysql_jdbc.value})

我分配了 --executor-memory 4g --driver-memory 2g --total-executor-cores 6 运行我的应用程序。
我想写入mysql的Dataframe的分区数是5740;我遵循了几个建议来减少分区的数量(通过.repartition()函数),但这并没有加快编写阶段的速度。
我还按照[1]中的技巧设置了 rewriteBatchedStatements=true 以及 useServerPrepStmts=false 但在性能上还没有改善。
在通过jdbc从dataframe写入mysql时,有什么设置或技巧可以提高速度吗?
谢谢你的帮助。
[1] 从spark到mysql的jdbc写速度低
p/s:我们的mysql数据库正在生产中,在其他任何应用程序中我们都看不到性能问题。

暂无答案!

目前还没有任何答案,快来回答吧!

相关问题