scala 将数据加载到BQ表中- GCP

j13ufse2 于 8个月前发布在 Scala

关注(0)|答案(1)|浏览(90)

我在BQ中有我的源数据，我必须处理它并将其加载到不同的BQ表中。目前我正在使用Dataproc和spark来处理和加载数据。有没有更好的方法来做同样的事情，或者我可以使用像DATAFLOW这样的GCP提供/内置功能来实现同样的目标？

来源：https://stackoverflow.com/questions/77492456/loading-data-into-bq-tables-gcp

1条答案

按热度按时间

我觉得Dataflow很适合你的情况。如果你使用Python，https://github.com/GoogleCloudPlatform/dataflow-cookbook/tree/main/Python/bigquery包含了很多有用的代码，可以让你创建自己的Beam管道。

赞(0）回复(0）举报 8个月前

相关问题

微信公众号

热门标签

Java query python Node 开发语言 request Util 数据库 Table 后端算法 Logger Message Element Parser

最新问答

Python pillow/PIL无法识别对象“imagedraw”的属性“textsize”
回答(3) 发布于 6个月前
python-3.x ImportError：无法从“typing_extensions”导入名称“deprecated”
回答(2) 发布于 6个月前
python-3.x 我正尝试使用密码学对字典进行加密
回答(1) 发布于 6个月前
在Python的IDLE中导入audiolazy的问题
回答(1) 发布于 6个月前
如何将Python程序中的数据添加到Markdown？
回答(2) 发布于 6个月前