并行处理—如何将特定数据分发到spark中的每个群集节点？

csbfibhn 于 2021-05-22 发布在 Spark

关注(0)|答案(2)|浏览(487)

我正在spark集群中部署我的程序，我需要给每个节点一个我决定的特定数据列表。我该怎么做？我用我的数据创建了一个rdd对象，但是我不知道如何将数据的特定部分传递给每个节点。

mapreduce apache-spark parallel-processing cluster-computing

来源：https://stackoverflow.com/questions/64366612/how-to-distribute-specific-data-to-each-cluster-node-in-spark

2条答案

按热度按时间

我不认为，你可以把一个特定的列表传递给节点。如果您的数据有唯一的密钥，那么您可以使用哈希技术在特定分区上发送相同的密钥

赞(0）回复(0）举报 2021-05-23

不可能，因为您无法控制分配了哪些工作节点，并且，n个执行器可能在同一个工作节点上。

赞(0）回复(0）举报 2021-05-23

相关问题

微信公众号

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

Python pillow/PIL无法识别对象“imagedraw”的属性“textsize”
回答(3) 发布于 6个月前
python-3.x ImportError：无法从“typing_extensions”导入名称“deprecated”
回答(2) 发布于 6个月前
python-3.x 我正尝试使用密码学对字典进行加密
回答(1) 发布于 6个月前
在Python的IDLE中导入audiolazy的问题
回答(1) 发布于 6个月前
如何将Python程序中的数据添加到Markdown？
回答(2) 发布于 6个月前