【Flink】Flink jvm参数配置GC日志

x33g5p2x  于2022-02-07 转载在 Flink  
字(4.9k)|赞(0)|评价(0)|浏览(489)

1.概述

转载:Flink jvm参数配置GC日志
生产环境上,或者其他要测试 GC 问题的环境上,一定会配置上打印GC日志的参数,便于分析 GC 相关的问题。

但是可能很多人配置的都不够“完美”,要么是打印的内容过少,要么是输出到控制台,要么是一个大文件被覆盖,要么是……

本文带你一步一步,配置一个完美的 GC 日志打印策略

打印内容

为了保留足够多的“现场证据”,最好是把 GC 相关的信息打印的足够完整。而且你的程序真的不差你GC时打印日志I/O消耗的那点性能

打印基本 GC 信息

打印 GC 日志的第一步,就是开启 GC 打印的参数了,也是最基本的参数。

-XX:+PrintGCDetails -XX:+PrintGCDateStamps

打印对象分布

为了分析 GC 时的晋升情况和晋升导致的高暂停,不看对象年龄分布日志怎么行

-XX:+PrintTenuringDistribution

输出内容示例:

1. Desired survivor size 59244544 bytes, new threshold 15 (max 15)
1. - age   1:     963176 bytes,     963176 total
1. - age   2:     791264 bytes,    1754440 total
1. - age   3:     210960 bytes,    1965400 total
1. - age   4:     167672 bytes,    2133072 total
1. - age   5:     172496 bytes,    2305568 total
1. - age   6:     107960 bytes,    2413528 total
1. - age   7:     205440 bytes,    2618968 total
1. - age   8:     185144 bytes,    2804112 total
1. - age   9:     195240 bytes,    2999352 total
1. - age  10:     169080 bytes,    3168432 total
1. - age  11:     114664 bytes,    3283096 total
1. - age  12:     168880 bytes,    3451976 total
1. - age  13:     167272 bytes,    3619248 total
1. - age  14:     387808 bytes,    4007056 total
1. - age  15:     168992 bytes,    4176048 total

GC 后打印堆数据

每次发生 GC 时,对比一下 GC 前后的堆内存情况,更直观

-XX:+PrintHeapAtGC

输出内容示例:

1. {Heap before GC invocations=
       0 (full 
       0):
1.  garbage-first heap   total 1024000K, used 324609K [
       0x0000000781800000, 
       0x0000000781901f40, 
       0x00000007c0000000)
1.   region size 1024K, 
       6 young (6144K), 
       0 survivors (0K)
1.  Metaspace       used 3420K, capacity 4500K, committed 4864K, reserved 1056768K
1.   
       class space    used 371K, capacity 388K, committed 512K, reserved 1048576K
1. Heap after GC invocations=
       1 (full 
       1):
1.  garbage-first heap   total 1024000K, used 21755K [
       0x0000000781800000, 
       0x0000000781901f40, 
       0x00000007c0000000)
1.   region size 1024K, 
       0 young (0K), 
       0 survivors (0K)
1.  Metaspace       used 3420K, capacity 4500K, committed 4864K, reserved 1056768K
1.   
       class space    used 371K, capacity 388K, committed 512K, reserved 1048576K
1. }

打印 STW 时间

暂停时间是 GC 最重要的指标,肯定不能少

-XX:+PrintGCApplicationStoppedTime

输出内容示例:

Total time for which application threads were stopped: 0.0254260 seconds, Stopping threads took: 0.0000218 seconds

打印 safepoint 信息

进入STW阶段之前,需要要找到一个合适的 safepoint ,这个指标一样很重要(非必选,出现 GC 问题时最好加上此参数调试)

-XX:+PrintSafepointStatistics -XX:PrintSafepointStatisticsCount=1

输出内容示例:

1.          vmop                    [threads: total initially_running wait_to_block]    [
       time: spin block sync cleanup vmop] page_trap_count
1. 0.371: ParallelGCFailedAllocation       [      
       10          
       0              
       0    ]      [     
       0     
       0     
       0     
       0     
       7    ]  
       0   
1. Execute 
       full gc...dataList has been promoted 
       to cms 
       old space
1.          vmop                    [threads: total initially_running wait_to_block]    [
       time: spin block sync cleanup vmop] page_trap_count
1. 0.379: ParallelGCSystemGC               [      
       10          
       0              
       0    ]      [     
       0     
       0     
       0     
       0    
       16    ]  
       0   
1.          vmop                    [threads: total initially_running wait_to_block]    [
       time: spin block sync cleanup vmop] page_trap_count
1. 0.396: 
       no vm operation                  [       
       9          
       1              
       1    ]      [     
       0     
       0     
       0     
       0   
       341    ]  
       0   

打印 Reference 处理信息

强引用/弱引用/软引用/虚引用/finalize 方法万一有问题,不得打印出来看看?

-XX:+PrintReferenceGC

输出内容示例:

1. 2021-
       02-
       19T12:
       41:
       30.462+
       0800: 
       5072726.605: [SoftReference, 
       0 refs, 
       0.0000521 secs]
1. 2021-
       02-
       19T12:
       41:
       30.462+
       0800: 
       5072726.605: [
       WeakReference, 
       0 refs, 
       0.0000069 secs]
1. 2021-
       02-
       19T12:
       41:
       30.462+
       0800: 
       5072726.605: [FinalReference, 
       0 refs, 
       0.0000056 secs]
1. 2021-
       02-
       19T12:
       41:
       30.462+
       0800: 
       5072726.605: [PhantomReference, 
       0 refs, 
       0 refs, 
       0.0000059 secs]
1. 2021-
       02-
       19T12:
       41:
       30.462+
       0800: 
       5072726.605: [JNI Weak Reference, 
       0.0000131 secs], 
       0.4635293 secs]

完整参数

1. # requireds
1. -XX:+PrintGCDetails 
1. -XX:+PrintGCDateStamps 
1. -XX:+PrintTenuringDistribution 
1. -XX:+PrintHeapAtGC 
1. -XX:+PrintReferenceGC 
1. -XX:+PrintGCApplicationStoppedTime
1. # optional
1. -XX:+PrintSafepointStatistics 
1. -XX:PrintSafepointStatisticsCount=1

输出方式

上面只是定义了打印的内容,默认情况下,这些日志会输出到控制台(标准输出)。那如果你的程序日志也输出到控制台呢,这个日志内容就会很乱,分析起来很麻烦。如果你是追加的方式(比如 tomcat 的 catalina.out 就是追加),这个文件会越来越大,分析起来就要命了。

所以需要一种分割日志的机制,这个机制嘛……JVM自然是提供的。

JVM 的日志分割

JVM提供了几个用于分割 GC 日志的参数:

1. # GC日志输出的文件路径
1. -Xloggc:
       /path/to/gc.log
1. # 开启日志文件分割
1. -XX:+UseGCLogFileRotation 
1. # 最多分割几个文件,超过之后从头开始写
1. -XX:NumberOfGCLogFiles=
       14
1. # 每个文件上限大小,超过就触发分割
1. -XX:GCLogFileSize=
       100M

按照这个参数,每个GC日志只要超过20M就会进行分割,最多分割5个文件,文件名依次是gc.log.0,gc.log.1,gc.log.2,gc.log.3,gc.log.4, .....

看似很美好,几行配置就搞定了输出文件的问题。但是这种方式有一些问题:

  • -Xloggc 方式指定的日志文件,是覆盖写的方式,每次启动都会覆盖,历史日志会丢失
  • 当超过最大分割数后,会从第0个文件开始重新写入,而且是覆盖
  • -XX:NumberOfGCLogFiles 并不能设置为无限

这个覆盖的问题就有点恶心了,每次启动覆盖之前的历史日志……这谁能忍?

使用时间戳命名文件

于是有另一种解决方案。不使用 JVM 提供的日志分割功能,而是每次启动用时间戳命名日志文件,这样可以每次启动都使用不同的文件,就不会出现覆盖的问题了。

1. # 使用-%t作为日志文件名
1. -XX:+PrintGCDetails -XX:+PrintGCDateStamps -Xloggc:
       /path/to/gc-%t.log
1. # 生成的文件名是这种:gc-2021-03-29_20-41-47.log

可是这样就完美吗?

虽然没有覆盖的问题,但由于没有日志分割的功能,每次启动后只有一个GC日志文件,单个日志文件可能会非常巨大。过大的日志文件分析起来是很麻烦的,必须得分割。

二者结合

这里只需要稍微调整一下策略,将 JVM 分割和时间戳命名两种方案结合,就可以得到最优的方式了。

1. # GC日志输出的文件路径
1. -Xloggc:
       /path/to/gc-%t.log
1. # 开启日志文件分割
1. -XX:+UseGCLogFileRotation 
1. # 最多分割几个文件,超过之后从头开始写
1. -XX:NumberOfGCLogFiles=
       14
1. # 每个文件上限大小,超过就触发分割
1. -XX:GCLogFileSize=
       100M

配置时间戳作文 GC 日志文件名的同时,也配置JVM的GC日志分割策略。这样一来,既保证了 GC 文件不会被覆盖,又保证了单个 GC 文件的大小不会过大,完美!

最终得到的日志文件名会像这个样子:

  • gc-2021-03-29_20-41-47.log.0
  • gc-2021-03-29_20-41-47.log.1
  • gc-2021-03-29_20-41-47.log.2
  • gc-2021-03-29_20-41-47.log.3
  • ....

最佳实践 - 完整参数

1. # 必备
1. -XX:+PrintGCDetails 
1. -XX:+PrintGCDateStamps 
1. -XX:+PrintTenuringDistribution 
1. -XX:+PrintHeapAtGC 
1. -XX:+PrintReferenceGC 
1. -XX:+PrintGCApplicationStoppedTime
1. # 可选
1. -XX:+PrintSafepointStatistics 
1. -XX:PrintSafepointStatisticsCount=1
1. # GC日志输出的文件路径
1. -Xloggc:/path/to/gc-%t.log
1. # 开启日志文件分割
1. -XX:+UseGCLogFileRotation 
1. # 最多分割几个文件,超过之后从头文件开始写
1. -XX:NumberOfGCLogFiles=14
1. # 每个文件上限大小,超过就触发分割
1. -XX:GCLogFileSize=100M

相关文章