Spark-SQL基于PostgreSQL数据分析编程实例

x33g5p2x  于2020-09-08 发布在 SparkSQL  
字(1.2k)|赞(0)|评价(0)|浏览(577)

本文主要内容:

Spark对PostgreSQL数据源数据的处理,通过Spark SQL对结构化数据进行数据分析。

  • 创建Gradle项目,引入依赖
  • 创建连接
  • 读数据库
  • 写数据库

完整源码Spark2PostgreSQL.java

完整项目源码

1 引入依赖

compile group: 'org.apache.spark', name: 'spark-core_2.11', version: '2.3.1'
compile group: 'org.apache.spark', name: 'spark-sql_2.11', version: '2.3.1'
compile group: 'org.postgresql', name: 'postgresql', version: '42.2.2'

2 创建Spark Session与数据库连接参数

SparkSession spark = SparkSession
        .builder()
        .appName("Java Spark SQL basic example")
//                .config("spark.some.config.option", "some-value")
        .getOrCreate();

Properties connectionProperties = new Properties();
connectionProperties.put("user", "busuanzi");
connectionProperties.put("password", "wxl123");

3 读取数据库

Dataset<Row> jdbcDF2 = spark.read()
        .jdbc("jdbc:postgresql://192.168.56.110:5432/busuanzidb", "public.top_projects", connectionProperties);

jdbcDF2.show();

4 写入数据库

myDF2.write()
        .mode(SaveMode.Append)
        .jdbc("jdbc:postgresql://192.168.56.110:5432/busuanzidb", "public.top_projects", connectionProperties);

查询数据库中,可见已经写入成功了。

5 Spark JOIN 操作

spark.sql("SELECT * FROM onev r JOIN twov s ON r.username = s.username")
        .show();

完整源码Spark2PostgreSQL.java

完整项目源码

6 在IDEA运行项目设置

源码获取 https://github.com/lycheeman/big-data

相关文章

热门文章

更多