jvm层gc调优

jvm的内存结构

java 8 jvm官方文档
https://docs.oracle.com/javase/specs/jvms/se8/html/index.html

运行时数据区

官方文档：https://docs.oracle.com/javase/specs/jvms/se8/html/jvms-2.html#jvms-2.5
运行时数据区有：方法区、虚拟机栈、本地方法栈、堆、程序计数器

计数器pc register

jvm支持多线程同时执行，每一个线程都有自己的pc register，线程正在执行的方法叫做当前方法，如果是java代码pc register里面存放的就是当前正在执行的指令的地址，如果是c代码，则为空

虚拟机栈jvm stacks

java虚拟机栈（java virtual machine stacks）是线程私有的，它的生命周期与线程相同。虚拟机栈描述的是java方法执行的内存模型；每隔方法在执行的同事都会创建一个栈帧，用于存储局部变量表、操作数栈、动态链接、方法出口等信息，每一个方法从调用直至执行完成的过程，就对应着一个栈帧在虚拟机中入栈到出栈的过程。

堆heap

java堆是java虚拟机所管理的内存中最大的一块。堆是被所有线程共享的一块内存区域，在虚拟机启动时穿件。此内存区域的唯一目的就是存放对象实例，几乎所有的对象实例都在这里分配内存。java堆可以处于物理上不连续的内存空间中，只要逻辑上是连续的就可以。

方法区Method Area

方法区域java堆一样，是哥哥线程共享的内存区域，它用于存储已被虚拟机加载的类信息、常量、静态变量、即时编译器编译后的代码等数据。虽然java虚拟机规范把方法区描述为堆的一个逻辑部分，但是它却又一个别名叫做non-heap（非堆），目的是与java堆区分开来。

常量池 run-time constant pool

运行时常量池是方法区的一部分。class文件中除了有类的版本、字段、方法、接口等描述信息外，还有一项信息是常量池（constant pool table），用于存放编译期生成的各种字面量和符号引用，这部分内容将在类加载后进入方法区的运行时常量池中存放。

本地方法栈native method stacks

本地方法栈与虚拟机栈所发挥的作用是非常相似的，他们之间的区别不过是虚拟机栈为虚拟机执行java方法（也就是字节码）服务，而本地方法栈则为用虚拟机使用到的native方法服务。

堆区

堆区分为老年代old和新生代（Young），新生代又分为eden和s0和s1区。

非堆区

metaspace=class、package、method、field、字节码、常量池、符号引用等。

css：32位指针的class

通过添加虚拟机参数：+UseCompressedClassPointers使用ccs，通过：jstat -gc pid查看CCS

codecache：JIT编译后的本地代码、JNI使用的C代码

关于一些名词的解释

常用参数

-Xms -Xmx
-XX:NewSize -XX:MaxNewSize
-XX:NewSize -XX:MaxNewSize
-XX:NewRatio -XX:SurvivorRatio
-XX:MetaspaceSize -XX:MaxMetaspaceSize
-XX:+UseCompressedClassPointers
-XX:CompressedClassSpaceSize
-XX:InitialCodeCacheSize
-XX:ReservedCodeCacheSize

垃圾回收算法

思想

枚举根节点，做可达性分析

根节点

类加载器、Thread、虚拟机栈的本地变量表、static成员、常量引用、本地方法栈的变量等等

标记清除

算法

算法分为“标记”和“清除”两个阶段：首先标记处所有需要回收的对象，在标记完成后统一回收所有

缺点

效率不高。标记和清除两个过程的效率都不高。产生碎片。碎片太多会导致提前GC

复制算法

它将可用内存按容量分为大小相等的两块，每次只使用其中的一块，当这一块的内存用完了，就将还存活的对象复制到另外一块上面，然后再把已使用过的内存空间一次清理掉。

优缺点

实现简单。运行高效，但是空间利用率低。

标记整理

算法

标记过程仍然与“标记-清除”算法一样，但后续步骤不是直接对可回收对象进行清理，而是让所有存活的对象都向一端移动，然后直接清理掉端以外的内存

优缺点

没有了内存碎片，但是整理内存比较耗时

分代回收算法

Young区用复制算法
Old区用标记清除或者标记整理

对象分配

对象优先在Eden区分配
大对象直接进入老年代：-XX:PretenureSizeThreshold
长期存活对象进入老年代：-XX:MaxTenuringThreshold -XX:+PrintTenuringDistribution -XX:TargetSurvivorRatio

垃圾收集器

知乎上优秀的回答：https://www.zhihu.com/question/35164211

垃圾收集器

串行收集器Serial：Serial、Serial Old
并行收集器Parallel：Parallel Scavenge、Parallel Old，吞吐量
并发收集器Concurrent：CMS、G1、停顿时间

并行vs并发

并行（Parallel）：指多条垃圾收集线程并行工作，但此时用户线程仍然处于等待状态。适合科学计算、后台处理等弱交互场景
并发（Concurrent）：指用户线程与垃圾收集线程同时执行（但不一定是并行的，可能会交替执行），垃圾收集线程在执行的时候不会停顿用户程序的运行。适合对响应时间有要求的场景，比如web。

停顿时间vs吞吐量

停顿时间：垃圾收集器做垃圾回收中断应用程序执行时间。-XX:MaxGCPauseMillis
吞吐量：花在垃圾收集的时候和花在应用时间的占比 .
XX:GCTimeRatio=，垃圾收集的时间占比：1/1+n

并行收集器

吞吐量优先
-XX:+UseParallelGC,-XX:+UseParallelOldGC
Server模式下的默认收集器
查看：jinfo -flag UseParallelOldGC pid

并行收集器

响应时间优先
CMS:XX:+UseConcMarkSweepGC -XX:+UseParNewGC
G1:-XX:+UseG1GC
查看：jinfo -flag UseConcMarkSweepGC pid

垃圾收集器搭配

可以从老年代记起：SerialOld最厉害，可以搭配所有的新生代收集器；
ParallelOld只能搭配Parallel新生代的，也就是Parallel Scavenge；
CMS 只能搭配Serial和ParNew；
最后G1只能自己和自己玩。

如何选择垃圾收集器

优先调整堆的大小让服务器自己来选择
如果内存小于100M，使用串行收集器
如果是单核，并且没有时间停顿的要求，串行或者让jvm自己选
如果允许停顿时间操作1秒，选择并行或者让jvm自己选
如果响应时间最重要，并且不能操作1秒，使用并发收集器

GC调优指南：https://docs.oracle.com/javase/8/docs/technotes/guides/vm/gctuning/toc.html
如何选择垃圾收集器：
https://docs.oracle.com/javase/8/docs/technotes/guides/vm/gctuning/collectors.html

Parallel Collector

-XX:+UseParallelGC 手动开启，Server默认开启
-XX:ParallelGCThreads= 多少个GC线程
CPU>8 N=5/8
CPU< 8 N=CPU
-XX:MaxGCPauseMillis=
-XX:GCTimeRatio=
-Xmx

动态内存调整

-XX:YoungGenerationSizeIncrement=也就是每次gc之后发现之前的内存不够，那么就会动态增加内存
-XX:TenuredGenerationSizeIncrement=
-XX:AdaptiveSizeDecrementScaleFactor=

CMS Collector

特点

并发收集
低停顿 低延时
老年代收集器

CMS垃圾收集过程

1、CMS initial mark：初始标记root，STW
2、CMS concurrent mark：并发标记
3、CMS-concurrent-preclean：并发预清理
4、CMS remark：重新标记，STW
5、CMS concurrent sweep：并发清除
6、CMS-concurrent-reset：并发重置

CMS的特点

CPU敏感
浮动垃圾
空间碎片

CMS的相关参数

-XX:ConcGCThreads:并发的GC线程数
-XX:+UseCMSCompactAtFullCollection：FullGC之后做压缩
-XX:CMSFullGCsBeforeCompaction：多少次FullGC之后压缩一次
-XX:CMSInitiatingOccupancyFraction：触发FullGC
-XX:+UseCMSInitiatingOccupancyOnly：是否动态调整
-XX:+CMSScavengeBeforeRemark：FullGC之前先做YGC
-XX:+CMSClassUnloadingEnabled：启用回收Perm区

iCMS

使用于单核或者双核

G1 Collector

G1垃圾收集器介绍：https://zhuanlan.zhihu.com/p/22591838

简介：

The first focus of G1 is to provide a solution for users running applications that require large heaps with limited GC latency.This means heap sizes of around 6GB or larger,and a stable and predictable pause time below 0.5 senconds.

G1属于新生代和老生代收集器

G1的几个概念

Region
SATB:Snapshot-At-The-Beginning，它是通过Root Tracing得到的，GC开始时候存活对象的快照。
RSet：记录了其他Region中的对象引用本Region中对象的关系，属于points-into结构（谁引用了我的对象）

YoungGC

新对象进入Eden区
存活对象拷贝到Survivor区
存活时间达到年龄阈值是，对象晋升到Old区

MixedGC

不是FullGC，回收所有的Young和部分Old
global concurrent marking

global concurrent marking

1、initial marking phase：标记GC Root，STW
2、Root region scanning phase：标记存活Region
3、Concurrent marking phase：标记存活的对象
4、Remark phase：重新标记，STW
5、Cleanup phase：部分STW

MixedGC时机

initiationHeapOccupancyPercent：堆占有率达到这个数值则触发global concurrent marking，默认45%
G1HeapWastePercent：在global concurrent marking结束之后，可以知道区有多少空间要被回收，在每次YGC之后和再次发生Mixed GC之前，会检查垃圾占比是否达到此参数，只有达到了，下次才会发生Mixed GC

MixedGC相关参数

G1MixedGCLiveThresholdPercent：Old 区的region被回收时候的存活对象占比
G1MixedGCCountTarget：
一次global concurrent marking之后，最多执行Mixed GC的次数
G1OldCSetRegionThresholdPercent：一次Mixed GC中能被选入CSet的最多old区的region数量

常用参数

-XX:+UseG1GC 开启G1
-XX:G1HeapRegionSize=n，region的大小，1~32M，2048个
-XX:MaxGCPauseMilles=200最大停顿时间
-XX:G1NewSizePercent，-XX:G1MaxNewSizePercent
-XX:G1ReservePercent=10, 保留防止to space溢出
-XX:ParallelGCThreads=n STW线程数
-XX:ConcGCThreads=n 并发线程数=1/4*并发

最佳实践

年轻代大小

避免使用-Xmn、-XX:NewRatio等显示设置Young区大小，会覆盖停顿时间目标

暂停时间目标

暂停时间不要太苛刻，其吞吐量目标是90%的应用程序的时间和10%的垃圾回收时间，太苛刻会直接影响到吞吐量

关于MixedGC调优

-XX:InitiatingHeapOccupancyPercent
-XX:G1MixedGCLiveThresholdPercent、-XX:G1HeapWastePercent
-XX:G1MixedGCCountTarget
-XX:G1OldCSetRegionThresholdPercent
MixedGC调优推荐：https://docs.oracle.com/javase/8/docs/technotes/guides/vm/gctuning/g1_gc_tuning.html#recommendations
G1垃圾收集器介绍：https://zhuanlan.zhihu.com/p/22591838

是否需要切换到G1

50%以上的堆被存活对象占用
对象分配和晋升的速度变化非常大
垃圾回收的时间特别长、超过了一秒

可视化gc日志分析工具

打印日志相关参数

-XX:+PrintGCDetails -XX:+PrintGCTimeStamps
-XX:+PrintGCDateStamps
-Xloggc:$CATALINA_HOME/logs/gc.log ：打印日志的位置
-XX:+PrintHeapAtGC
-XX:+PrintTenuringDistribution

cms日志

https://blogs.oracle.com/poonam/understanding-cms-gc-logs

g1日志

https://blogs.oracle.com/poonam/understanding-g1-gc-logs

在线工具：http://gceasy.io/

GCViewer

https://github.com/chewiebug/GCViewer
直接启动java -jar 启动就可以了
主要关注吞吐量和停顿时间这些值

Tomcat的gc调优实战

调优步骤：

• 打印gc日志
• 根据gc日志得到关键性指标
• 分析gc原因，调优jvm参数
  初始化参数：
  -XX:+PrintGCDetails -XX:+PrintGCTimeStamps
  -XX:+PrintGCDateStamps -XX:+DisableExplicitGC
  -Xloggc:$CATALINA_HOME/logs/gc.log ：打印日志的位置
  -XX:+PrintHeapAtGC
  -XX:+PrintTenuringDistribution
  关于DisableExplicitGC这个，有必要了解一下，如果启动了这个参数，不能显示调用gc，System.gc()这个方法就没用了，那么在某一些使用到堆外内存的框架如netty中，就会存在内存泄漏的风险。
  参考：https://blog.csdn.net/aitangyong/article/details/39403031

Parallel collector调优

parallel gc调优指南：

• 除非确定，否则不要设置最大堆内存
• 优先设置吞吐量目标
• 如果吞吐量目标达不到，调大最大内存，不能让os使用swap，如果仍然达不到，降低目标。
• 吞吐量能达到，GC时间太长、设置停顿时间的目标。
  在官方文档的这个地方：https://docs.oracle.com/javase/8/docs/technotes/guides/vm/gctuning/ergonomics.html#sthref15
  介绍了parallell gc调优的两种方式：
  1、设置最大停顿时间XX:MaxGCPauseMillis
  2、设置吞吐量XX:GCTimeRatio
  这两个参数只适用于paraller collector
  而在介绍Parallel collector的的文章这里：https://docs.oracle.com/javase/8/docs/technotes/guides/vm/gctuning/parallel.html#CHDCFBIF
  说了另外两种方式：
  3、设置内存动态变化：XX:YoungGenerationSizeIncrement、XX:TenuredGenerationSizeIncrement、XX:AdaptiveSizeDecrementScaleFactor，每次gc之后，都会看gc前后的内存，从而增加或者减少内存
  4、通过查看gc的情况，设置内存大小，可以设置Xms(initial heap size) 、Xmx(maximum heap size)和Xmn(新生代的大小)还有MetaspaceSize和MaxMetaspaceSize

CMS GC调优

由于jdk1.8之后更加推荐使用G1，所以cms的调优自己看官网：
https://docs.oracle.com/javase/8/docs/technotes/guides/vm/gctuning/cms.html#concurrent_mark_sweep_cms_collector

G1 GC调优

g1gc调优指南：

年轻代大小

避免使用-Xmn、-XX:NewRatio等显示设置Young区大小，会覆盖停顿时间目标

暂停时间目标

暂停时间不要太苛刻，其吞吐量目标是90%的应用程序的时间和10%的垃圾回收时间，太苛刻会直接影响到吞吐量

关于MixedGC调优

-XX:InitiatingHeapOccupancyPercent
-XX:G1MixedGCLiveThresholdPercent、-XX:G1HeapWastePercent
-XX:G1MixedGCCountTarget
-XX:G1OldCSetRegionThresholdPercent
其实这里的介绍就是官网的介绍
官网：
https://docs.oracle.com/javase/8/docs/technotes/guides/vm/gctuning/g1_gc_tuning.html#recommendations
这里介绍了调优的三种方式：
1、避免设置固定的内存例如Xms(initial heap size) 、Xmx(maximum heap size)和Xmn(新生代的大小)还有MetaspaceSize和MaxMetaspaceSize，但是可以必要条件下可以调这些参数
2、设置最大停顿时间例如；MaxGCPauseMillis=100
3、对于mixed gc参数的设置，如：
-XX:InitiatingHeapOccupancyPercent、
-XX:G1MixedGCLiveThresholdPercent、
-XX:G1HeapWastePercent、
-XX:G1MixedGCCountTarget 、
-XX:G1OldCSetRegionThresholdPercent

ps：最后思考一点，fullgc和young gc是相对parallel gc，而mixed是相对g1gc的吗？