15、JVM实战 - 内存与垃圾回收(五) -- 垃圾回收(四) -- 垃圾回收器

1.GC分类与性能指标

1.1 垃圾回收器概述

  • 垃圾回收器没有在规范中进行过多的规定,可以由不同的厂商、不同版本的JVM来实现
  • 由于JDK的版本处于高速迭代过程中,因此Java发展至今已经衍生了众多的GC版本
  • 从不同角度分析垃圾收集器,可以将GC分为不同的类型

1.2 垃圾回收器分类

1.2.1 按线程数(垃圾回收的线程)分,可以分为串行垃圾回收器和并行垃圾回收器

 

  • 串行回收指的是在同一时间段内只允许有一个CPU用于执行垃圾回收操作,此时工作线程被暂停,直至垃圾收集工作结束。

  • 在诸如单CPU处理器或者较小的应用内存等硬件平台不是特别优越的场合,串行回收器的性能表现可以超过并行回收器和并发回收器。所以,串行回收默认被应用在客户端的Client模式下的JVM中

  • 在并发能力比较强的CPU上,并行回收器产生的停顿时间要短于串行回收器。

  • 和串行回收相反,并行收集可以运用多个CPU同时执行垃圾回收,因此提升了应用的吞吐量,不过并行回收仍然与串行回收一样,采用独占式,使用了“ Stop一the一world”机制。

1.2.2 按工作模式分,可以分为并发式垃圾回收器和独占式垃圾回收器
  • 并发式垃圾回收器与应用程序线程交替工作,以尽可能减少应用程序的停顿时间。
  • 独占式垃圾回收器(Stop the world)一旦运行,就停止应用程序中的所有用户线程,直到垃圾回收过程完全结束。
     
1.2.3 按碎片处理方式分,可分为压缩式垃圾回收器和非压缩式垃圾回收器
  • 压缩式垃圾回收器会在回收完成后,对存活对象进行压缩整理,消除回收后的碎片

  • 再分配对象空间使用:指针碰撞

  • 非压缩式的垃圾回收器不进行这步操作

  • 再分配对象空间使用:空闲列表

1.2.4 按工作的内存区间分,可分为年轻代垃圾回收器和老年代垃圾回收器

1.3 评估GC的性能指标

  • 吞吐量:运行用户代码的时间占总运行时间的比例

  • 总运行时间:程序的运行时间+内存回收的时间

  • 垃圾收集开销:吞吐量的补数,垃圾收集所用时间与总运行时间的比例

  • 暂停时间:执行垃圾收集时,程序的工作线程被暂停的时间

  • 收集频率:相对于应用程序的执行,收集操作发生的频率

  • 内存占用:Java堆区所占的内存大小

  • 快速:一个对象从诞生到被回收所经历的时间

上述标黄的三项是主要的性能指标,这三者共同构成一个“不可能三角”。三者总体的表现会随着技术进步而越来越好。一款优秀的收集器通常最多同时满足其中的两项

这三项中,暂停时间的重要性日益凸显。因为随着硬件发展,内存占用多些越来越能容忍,硬件性能的提升也有助于降低收集器运行时对应用程序的影响,即提高了吞吐量。而内存的扩大,对延迟反而带来负面效果。

简单来说,主要抓住2点:吞吐量,暂停时间。

1.3.1 吞吐量
  • 吞吐量就是CPU用于运行用户代码的时间与CPU总消耗时间的比值,即吞吐量运行用户代码时间/ (运行用户代码时间+垃圾收集时间)

  • 比如:虚拟机总共运行了100分钟,其中垃圾收集花掉1分钟,那吞吐量就是99%

  • 这种情况下,应用程序能容忍较高的暂停时间,因此,高吞吐量的应用程序有更长的时间基准,快速响应是不必考虑的。

  • 吞吐量优先,意味着在单位时间内,STW的时间最短: 0.2 + 0.2 = 0.4

1.3.2 暂停时间
  • “暂停时间”是指一个时间段内应用程序线程暂停,让GC线程执行的状态

  • 例如,GC期间100毫秒的暂停时间意味着在这100毫秒期间内没有应用程
    序线程是活动的。.

  • 暂停时间优先,意味着尽可能让单次STW的时间最短: 0.1 + 0.1 + 0.1 +
    0、 1+0.1=0.5;

 

1.3.3 吞吐量和暂停时间对比:
  • 高吞吐量较好因为这会让应用程序的最终用户感觉只有应用程序线程在做“生产性”工作。直觉上,吞吐量越高程序运行越快。

  • 低暂停时间(低延迟)较好因为从最终用户的角度来看不管是GC还是其他原因导致一个应用被挂起始终是不好的。这取决于应用程序的类型,有时候甚至短暂的200毫秒暂停都可能打断终端用户体验。因此,具有低的较大暂停时间是非常重要的,特别是对于一一个交互式应用程序。

  • 不幸的是”高吞吐量”和”低暂停时间”是一对相互竞争的目标(矛盾)。

  • 因为如果选择以吞吐量优先,那么必然需要降低内存回收的执行频率,但是这样会导致GC需要更长的暂停时间来执行内存回收。

  • 相反的,如果选择以低延迟优先为原则,那么为了降低每次执行内存回收时的暂停时间,也只能频繁地执行内存回收,但这又引起了年轻代内存的缩诚和导致程序吞吐量的下降。

在设计(或使用) GC算法时,我们必须确定我们的目标: 一个GC算法只可能针对两个目标之一(即只专注于较大吞吐量或最小暂停时间),或尝试找到一个二者的折衷。

现在标准:在最大吞吐量优先的情况下,降低停顿时间

2.不同的垃圾回收器概述

2.1 垃圾回收器发展史

有了虚拟机,就一定需要收集垃圾的机制,这就是Garbage Collection, 对应的产品我们称为Garbage Collector.

  • 1999年随JDK1.3.1一 起来的是串行方式的Serial GC,它是第一款GC。ParNew垃圾收集器是Serial收集器的多线程版本
  • 2002年2月26日,Parallel GC和Concurrent Mark Sweep GC跟随JDK1.4.2一起发布
  • Parallel GC在JDK6之后成为HotSpot默认GC。
  • 2012年,在JDK1.7u4版本中,G1可用。
  • 2017年,JDK9中G1变成默认的垃圾收集器,以替代CMS。
  • 2018年3月,JDK10中G1垃圾回收器的并行完整垃圾回收,实现并行性来改善最坏情况下的延迟。

------------分水岭------------

  • 2018年9月,JDK11发布。引入Epsilon垃圾回收器,又被称为"No一0p (无操作) "回收器。同时,引入ZGC:可伸缩的低延迟垃圾回收器(Experimental)。
  • 2019年3月,JDK12发布。 增强G1,自动返回未用堆内存给操作系统。同时,引入Shenandoah GC:低停顿时间的GC (Experimental)。
  • 2019年9月,JDK13发布。增强ZGC,自动返回未用堆内存给操作系统。
  • 2020年3月,JDK14发布。删除CMS垃圾回收器。扩展ZGC在macOS和Windows上的应用

2.2 七款经典垃圾回收器

  • 串行回收器:Serial, Serial Old
  • 并行回收器:ParNew, Parallel Scavenge, Parallel Old
  • 并发回收器:CMS, G1
     

2.3 七种经典垃圾回收器和垃圾分代之间的关系

 

2.4 垃圾回收器的组合关系

 

1、 两个收集器间有连线,表明它们可以搭配使用:;
Serial/Serial 01d、Serial/CMS、 ParNew/Serial 01d、ParNew/CMS、
Parallel Scavenge/Serial 01d、Parallel Scavenge/Parallel 0ld、G1;
2、 其中Serial0ld作为CMS出现"ConcurrentModeFailure"失败的后备预案;
3、 (红色虚线)由于维护和兼容性测试的成本,在JDK8时将Serial+CMS、;
ParNew+Serial 01d这两个组合声明为废弃(JEP 173) ,并在JDK 9中
完全取消了这些组合的支持(JEP214),即:移除。
4、 (绿色虚线)JDK14中:弃用ParallelScavenge和Serial0ldGC组合(JEP366);
5、 (青色虚线)JDK14中:删除CMS垃圾回收器(JEP363);

为什么要有很多收集器,一个不够吗? 因为Java的使用场景很多, 移动端,服务器等。所以就需要针对不同的场景,提供不同的垃圾收集器,提高垃圾收集的性能。

虽然我们会对各个收集器进行比较,但并非为了挑选一个最好的收集器出来。没有一种放之四海皆准、任何场景下都适用的完美收集器存在,更加没有万能的收集器。所以我们选择的只是对具体应用最合适的收集器。

2.5 如何查看默认回收器

  • -XX:+PrintCommandLineFlags:查看命令行相关参数(包含使用的垃圾回收器)
  • 使用命令行指令:jinfo -flag 相关垃圾回收器参数 进程ID
  • +号表示使用,-号表示未使用

 

3.Serial回收器:串行回收

  • Serial收集器是最基本、历史最悠久的垃圾收集器了。JDK1.3之前回收新生代唯一的选择。

  • Serial收集器作为HotSpot中Client模式下的默认新生代垃圾收集器。

  • Serial收集器采用复制算法、串行回收和"Stop一the一World"机制的方式执行内存回收

  • 除了年轻代之外,Serial收集器还提供用于执行老年代垃圾收集的Serial 0ld收集器。 Serial 0ld收集器同样也采用了串行回收和"Stop the World"机制,只不过内存回收算法使用的是标记一压缩算法

  • Serial 0ld是运行在Client模式下默认的老年代的垃圾回收器

  • Serial 0ld在Server模式下主要有两个用途:

    1. 与新生代的ParallelScavenge配合使用;
    2. 作为老年代CMS收集器的后备垃圾收集方案

 
这个收集器是一个单线程的收集器,但它的“单线程”的意义并不仅仅说明它只会使用一个CPU或一条收集线程去完成垃圾收集工作,更重要的是在它进行垃圾收集时,必须暂停其他所有的工作线程,直到它收集结束(Stop The World )。

3.1 优势:

  • 简单而高效(与其他收集器的单线程比),对于限定单个CPU的环境来说,Serial收集器由于没有线程交互的开销,专心做垃圾收集自然可以获得最高的单线程收集效率。

  • 运行在Client模式下的虛拟机是个不错的选择。

  • 在用户的桌面应用场景中,可用内存一般不大(几十MB至一两百MB),可以在较短时间内完成垃圾收集(几十ms至一百多ms) ,只要不频繁发生,使用串行回收器是可以接受的。

  • 在HotSpot虛拟机中,使用-XX: +UseSerialGC 参数可以指定年轻代和老年代都使用串行收集器。

  • 等价于新生代用Serial GC,且老年代用Serial 0ld GC

  • 控制台输出:

-XX:InitialHeapSize=268435456 
-XX:MaxHeapSize=4294967296 -XX:+PrintCommandLineFlags 
-XX:+UseCompressedClassPointers -XX:+UseCompressedOops 
-XX:+UseSerialGC

3.2 总结

这种垃圾收集器大家了解,现在已经不用串行的了。而且在限定单核cpu才可以用。现在都不是单核的了。对于交互较强的应用而言,这种垃圾收集器是不能接受的。一般在Javaweb应用程序中是不会采用串行垃圾收集器的。

4.ParNew回收器:并行回收

  • 如果说Serial GC是年轻代中的单线程垃圾收集器,那么ParNew收集器则是Serial收集器的多线程版本。

  • Par是Parallel的缩写,New: 只能处理的是新生代

  • ParNew收集器除了采用并行回收的方式执行内存回收外,两款垃圾收集器之间几乎没有任何区别。ParNew收集器在年轻代中同样也是采用复制算法、"Stop一 the一World"机制。

  • ParNew是很多JVM运行在Server模式下新生代的默认垃圾收集器。

 

  • 由于ParNew收集器是基于并行回收,那么是否可以断定ParNew收集器的回收效率在任何场景下都会比Serial收集器更高效?

  • ParNew 收集器运行在多CPU的环境下,由于可以充分利用多CPU、多核心等物理硬件资源优势,可以更快速地完成垃圾收集,提升程序的吞吐量。

  • 但是在单个CPU的环境下,ParNew收 集器不比Serial收集器更高效。虽然Serial收集器是基于串行回收,但是由于CPU不需要频繁地做任务切换,因此可以有效避免多线程交互过程中产生的一些额外开销。

  • 因为除Serial外,目前只有ParNew GC能与CMS收集器配合工作

  • 在程序中,开发人员可以通过选项"-XX: +UseParNewGC"手动指定使用.ParNew收集器执行内存回收任务。它表示年轻代使用并行收集器,不影响老年代。

  • -XX:ParallelGCThreads 限制线程数量,默认开启和CPU数据相同的线程数。.

5.Parallel回收器:吞吐量优先

  • HotSpot的年轻代中除了拥有ParNew收集器是基于并行回收的以外,Parallel Scavenge收集器同样也采用了复制算法、并行回收和"Stop the World"机制

  • 那么Parallel收集器的出现是否多此一举?

  • 和ParNew收集器不同,Parallel Scavenge收集器的目标则是达到一个可控制的吞吐量(Throughput),它也被称为吞吐量优先的垃圾收集器。

  • 自适应调节策略也是Parallel Scavenge 与ParNew一个重要区别。

  • 高吞吐量则可以高效率地利用CPU 时间,尽快完成程序的运算任务|主要适合在后台运算而不需要太多交互的任务。因此,常见在服务器环境中使用。例如,那些执行批量处理、订单处理、工资支付、科学计算的应用程序

  • Parallel收集器在JDK1.6时提供了用于执行老年代垃圾收集的Parallel 0ld收集器,用来代替老年代的Serial 0ld收集器。

  • Parallel 0ld收集器采用了标记一压缩算法,但同样也是基于并行回收和”Stop一the一World"机制

 

  • 在程序吞吐量优先的应用场景中,Parallel 收集器和Parallel 0ld收集器的组合,在Server模式下的内存回收性能很不错。
  • 在Java8中,默认是此垃圾收集器

5.1 参数配置

  • -XX:+UseParallelGC手动指定年轻代使用Parallel并行收集器执行内存回收任务。

  • -XX: +UseParallel0ldGc手动指定老年代都是使用并行回收收集器。

  • 分别适用于新生代和老年代。默认jdk8是开启的。

  • 上面两个参数,默认开启一个,另一个也会被开启。(互相激活

  • -XX:ParallelGCThreads设置年轻代并行收集器的线程数。一般地,最好与CPU数量相等,以避免过多的线程数影响垃圾收集性能。

  • 在默认情况下,当CPU数量小于8个, Paralle lGCThreads 的值等于CPU数量。

  • 当CPU数量大于8个, ParallelGCThreads的值等于3+[5*CPU_ Count]/8]

  • -XX:MaxGCPau3eMillis设置垃圾收集器最大停顿时间(即STW的时间)。单位是毫秒。

  • 为了尽可能地把停顿时间控制在MaxGCPauseMills以内,收集器在.工作时会调整Java堆大小或者其他一些参数。

  • 对于用户来讲,停顿时间越短体验越好。但是在服务器端,我们注重高并发,整体的吞吐量。所以服务器端适合Parallel,进行控制。

  • 该参数使用需谨慎

  • -XX:GCTimeRatio垃圾收集时间占总时间的比例(= 1 /(N + 1))用于衡量吞吐量的大小。

  • 取值范围(0, 100)。默认值99,也就是垃圾回收时间不超过1%。

  • 与前一个-XX:MaxGCPauseMillis参数有一定矛盾性。暂停时间越长,Radio参数就容易超过设定的比例。

  • -XX:+UseAdaptiveSizePolicy设置Parallel Scavenge收集器具有自适应调节策略

  • 在这种模式下,年轻代的大小、Eden和Survivor的比例、晋升老年代的对象年龄等参数会被自动调整,已达到在堆大小、吞吐量和停顿时间之间的平衡点。

  • 在手动调优比较困难的场合,可以直接使用这种自适应的方式,仅指定虚拟机的最大堆、目标的吞吐量(GCTimeRatio)和停顿时间(MaxGCPauseMills),让虚拟机自己完成调优工作。

6.CMS回收器:低延迟

  • 在JDK1.5时期, HotSpot推出了一款在强交互应用中几乎可认为有划时代意义的垃圾收集器: CMS (Concurrent 一Mark 一 Sweep)收集器,这款收集器是HotSpot虚拟机中第一款真正意义上的并发收集器,它第一次实现了让垃圾收集线程与用户线程同时工作

  • CMS收集器的关注点是尽可能缩短垃圾收集时用户线程的停顿时间。停顿时间越短(低延迟)就越适合与用户交互的程序,良好的响应速度能提升用户体验。

  • 目前很大一部分的Java应用集中在互联网站或者B/s系统的服务端上,这类应用尤其重视服务的响应速度,希望系统停顿时间最短,以给用户带来较好的体验。CMS收集器就非常符合这类应用的需求。

  • CMS的垃圾 收集算法采用标记一清除算法,并且也会" stop一the一world"

 

  • 不幸的是,CMS 作为老年代的收集器,却无法与JDK 1.4.0 中已经存在的新生代收集器Parallel Scavenge配合工作,所以在JDK 1. 5中使用CMS来收集老年代的时候,新生代只能选择ParNew或者Serial收集器中的一个。
  • 在G1出现之前,CMS使用还是非常广泛的。一直到今天,仍然有很多系统使用CMS GC。

6.1 CMS工作原理

CMS整个过程比之前的收集器要复杂,整个过程分为4个主要阶段,即初始标记阶段、并发标记阶段、重新标记阶段和并发清除阶段

  • 初始标记(Initial一Mark) 阶段:在这个阶段中,程序中所有的工作线程都将会因为“Stop一the一World"机制而出现短暂的暂停,这个阶段的主要任务仅仅只是标记出GCRoots能直接关联到的对象。一旦标记完成之后就会恢复之前被暂停的所有应用.线程。由于直接关联对象比较小,所以这里的速度非常快。
  • 并发标记(Concurrent一Mark)阶段:从GC Roots的直接关联对象开始遍历整个对象图的过程,这个过程耗时较长但是不需要停顿用户线程,可以与垃圾收集线程一起并发运行。
  • 重新标记(Remark) 阶段:由于在并发标记阶段中,程序的工作线程会和垃圾收集线程同时运行或者交叉运行,因此为了修正并发标记期间,因用户程序继续运作而导致标记产生变动的那一部分对象的标记记录,这个阶段的停顿时间通常会比初始标记阶段稍长一些,但也远比并发标记阶段的时间短。
  • 并发清除( Concurrent一Sweep)阶段:此阶段清理删除掉标记阶段判断的已经死亡的对象,释放内存空间。由于不需要移动存活对象,所以这个阶段也是可以与用户线程同时并发的(这里不会产生并发问题比如一个已经死亡的对象不会再被其他线程所关联上,这是不可能的)
6.1.1 一些疑问

1、 并发标记阶段新生成对象或者引用发生变更的对象如何处理?;
2、 并发清除阶段生成的垃圾如何处理?;

详见下一小节。

6.2 CMS详细回收过程

主要由7个阶段组成,其中有两个阶段会发生stop-the-world,其他阶段都是并发执行的。

6.2.1 Initial Mark(初始化标记)

初始化标记阶段,是CMS GC的第一个阶段,也是标记阶段的开始。主要工作是标记可直达的存活对象。

主要标记过程:

  • 从GC Roots遍历可直达的老年代对象
  • 遍历被新生代存活对象所引用的老年代对象

程序执行情况:

  • 支持单线程或并行标记。
  • 发生stop-the-world,暂停所有应用线程。

 
(Marked obj:老年代绿色圆点表示被初始化标记的对象。)

在java中,可作为GC Roots的对象有:(之前有详细讲过)

1、 虚拟机栈(栈帧中的本地变量表)中引用的对象;
2、 方法区中的类静态属性引用的对象;
3、 方法区中常量引用的对象;
4、 本地方法栈中JNI(即一般说的Native方法)中引用的对象;
5、

6.2.2 Concurrent Mark(并发标记)

并发标记阶段,是CMS GC的第二个阶段。

在该阶段,GC线程和应用线程将并发执行。也就是说,在第一个阶段(Initial Mark)被暂停的应用线程将恢复运行。

并发标记阶段的主要工作是,通过遍历第一个阶段(Initial Mark)标记出来的存活对象,继续递归遍历老年代,并标记可直接或间接到达的所有老年代存活对象
 
Current obj:该对象的引用关系发生变化,对下一个对象的引用被删除)

由于在并发标记阶段,应用线程和GC线程是并发执行的,因此可能产生新的对象或对象关系发生变化,例如:

  • 新生代的对象晋升到老年代;
  • 直接在老年代分配对象;
  • 老年代对象的引用关系发生变更;

对于这些对象,需要重新标记以防止被遗漏。为了提高重新标记的效率,本阶段会把这些发生变化的对象所在的Card标识为Dirty,这样后续就只需要扫描这些Dirty Card的对象,从而避免扫描整个老年代。

6.2.3 Concurrent Preclean(并发预清理)

通过参数CMSPrecleaningEnabled选择关闭该阶段,默认启用。

在并发预清理阶段,将会重新扫描前一个阶段标记的Dirty对象(新生代晋升的对象、新分配到老年代的对象以及在并发阶段被修改了的对象),并标记被Dirty对象直接或间接引用的对象,然后清除Card标识。

标记被Dirty对象直接或间接引用的对象:
 
清除Dirty对象的Card标识:
 

6.2.4 Concurrent Abortable Preclean(可中止的并发预清理)

本阶段尽可能承担更多的并发预处理工作,从而减轻在Final Remark阶段的stop-the-world。

该阶段发生的前提是,新生代Eden区的内存使用量大于参数CMSScheduleRemarkEdenSizeThreshold 默认是2M,如果新生代的对象太少,就没有必要执行该阶段,直接执行重新标记阶段。
在该阶段,主要循环的做两件事:

  • 处理 From 和 To 区的对象,标记可达的老年代对象;
  • 和上一个阶段一样,扫描处理Dirty Card中的对象。

具体执行多久,取决于许多因素,满足其中一个条件将会中止运行:

  • 可以设置最多循环的次数 CMSMaxAbortablePrecleanLoops,默认是0,意思没有循环次数的限制。
  • 如果执行这个逻辑的时间达到了阈值CMSMaxAbortablePrecleanTime,默认是5s,会退出循环。
  • 如果新生代Eden区的内存使用率达到了阈值CMSScheduleRemarkEdenPenetration,默认50%,会退出循环。(这个条件能够成立的前提是,在进行Precleaning时,Eden区的使用率小于十分之一)

如果在循环退出之前,发生了一次YGC,对于后面的Remark阶段来说,大大减轻了扫描年轻代的负担,但是发生YGC并非人为控制,所以只能祈祷这5s内可以来一次YGC。

6.2.5 Final Remark(重新标记)

预清理阶段也是并发执行的,并不一定是所有存活对象都会被标记,因为在并发标记的过程中对象及其引用关系还在不断变化中。

因此,需要有一个stop-the-world的阶段来完成最后的标记工作,这就是重新标记阶段(CMS标记阶段的最后一个阶段)。主要目的是重新扫描之前并发处理阶段的所有残留更新对象。

主要工作:

  • 遍历新生代对象,重新标记;(新生代会被分块,多线程扫描)
  • 根据GC Roots,重新标记;
  • 遍历老年代的Dirty Card,重新标记。这里的Dirty Card,大部分已经在Preclean阶段被处理过了。

CMS算法中提供了一个参数:CMSScavengeBeforeRemark,默认并没有开启,如果开启该参数,在执行该阶段之前,会强制触发一次YGC,可以减少新生代对象的遍历时间,回收的也更彻底一点。不过,这种参数有利有弊,利是降低了Remark阶段的停顿时间,弊的是在新生代对象很少的情况下也多了一次YGC,最可怜的是在AbortablePreclean阶段已经发生了一次YGC,然后在该阶段又傻傻的触发一次。所以利弊需要把握。

6.2.6 Concurrent Sweep(并发清理)

并发清理阶段,主要工作是清理所有未被标记的死亡对象,回收被占用的空间。

 
如果在此阶段有用户线程生成了垃圾,这些垃圾就被称之为“浮动垃圾”,在下一次GC的时候进行处理。同时为了存放这些浮动垃圾,CMS的GC也不能在内存满了的时候在进行
 

6.2.7 Concurrent Reset(并发重置)

并发重置阶段,将清理并恢复在CMS GC过程中的各种状态,重新初始化CMS相关数据结构,为下一个垃圾收集周期做好准备

6.3 CMS特点

  • 并发收集
    尽管CMS收集器采用的是并发回收(非独占式),但是在其初始化标记和再次标记这两个阶段中仍然需要执行“Stop一the一World”机制暂停程序中的工作线程,不过暂停时间并不会太长,因此可以说明目前所有的垃圾收集器都做不到完全不需要“Stop一the一World”,只是尽可能地缩短暂停时间。
  • 低延迟
    由于最耗费时间的并发标记与并发清除阶段都不需要暂停工作,所以整体的回收是低停顿的。

6.4 CMS存在的问题

6.4.1 Concurrent Mode Failure问题

由于在垃圾收集阶段用户线程没有中断,所以在CMS回收过程中,还应该确保应用程序用户线程有足够的内存可用。因此,CMS收集器不能像其他收集器那样等到老年代几乎完全被填满了再进行收集,而是当堆内存使用率达到某一阈值时,便开始进行回收,以确保应用程序在CMS工作过程中依然有足够的空间支持应用程序运行。要是CMS运行期间预留的内存无法满足程序需要,就会出现一次“Concurrent Mode Failure”失败,这时虚拟机将启动后备预案:临时启用Serial 0ld收集器来重新进行老年代的垃圾收集,这样停顿时间就很长了。

有一个参数来控制触发百分比: -XX:CMSInitiatingOccupancyFraction=80 (这里配置的是80%)

为了避免Concurrent Mode Failure,可以采取的做法是:

1、 调大老年代空间;
2、 调低CMSInitiatingOccupancyFraction的值,但这样会造成更频繁的CMSGC;
3、 代码层面优化,控制对象创建频率;

6.4.2 会产生内存碎片

CMS收集器的垃圾收集算法采用的是标记一清除算法,这意味着每次执行完内存回收后,由于被执行内存回收的无用对象所占用的内存空间极有可能是不连续的一些内存块,不可避免地将会产生一些内存碎片。 那么CMS在为新对象分配内存空间时,将无法使用指针碰撞(Bump the Pointer) 技术,而只能够选择空闲列表(Free List) 执行内存分配。

由于内存碎片化,如果无法分配大对象,不得不提前触发Full GC。
 

问题: 有人会觉得既然Mark Sweep会造成内存碎片,那么为什么不把算法换成Mark Compact呢?

答案其实很简答,因为当并发清除的时候,用Compact整理内存的话,原来的用户线程使用的内存还怎么用呢?要保证用户线程能继续执行,前提的它运行的资源不受影响嘛。Mark Compact更适合“Stop the World”这种场景”下使用

6.4.3 对CPU资源敏感

其实,面向并发设计的程序都对CPU资源比较敏感。在并发阶段,它虽然不会导致用户线程停顿,但是会因为占用了一部分线程(或者说CPU资源)而导致应用程序变慢,总吞吐量会降低。CMS默认启动的回收线程数是(CPU数量+3)/4,也就是当CPU在4个以上时,并发回收时垃圾收集线程不少于25%的CPU资源,随着CPU数量的增加而下降。

6.4.4 无法处理浮动垃圾

CMS并发清理时,用户程序的运行也会产生新的垃圾(一边打扫房间,一遍丢新的垃圾),但是这部分垃圾产生于标记过程之后,因此只好留在下次GC时清理,这种垃圾被称为浮动垃圾(Floating Garbage)。

6.5 CMS收集器可以设置的参数

  • -XX:+UseConcMarkSweepGc 手动指定使用CMS收集器执行内存回收任务。

  • 开启该参数后会自动将-XX: +UseParNewGc打开。即: ParNew (Young区用) +CMS (0ld区用) +Serial 0ld的组合。

  • -XX:CMS1ni tiatingOccupanyFraction设置堆内存使用率的阈值,一旦达到该阈值,便开始进行回收。

  • JDK5及以前版本的默认值为68,即当老年代的空间使用率达到68号时,会执行一 次CMS 回收。 JDK6 5及以上版本默认值为92号

  • 如果内存增长缓慢,则可以设置一个稍大的值,大的阈值可以有效降低CMS的触发频率,减少老年代回收的次数可以较为明显地改善应用程序性能。反之,如果应用程序内存使用率增长很快,则应该降低这个阈值,以避免频繁触发老年代串行收集器。因此通过该选项便可以有效降低Full GC的执行次数。

  • -XX: +UseCMSCompactAtFullCollection用于指定在执行完FullGC后对内存空间进行压缩整理,以此避免内存碎片的产生。不过由于内存压缩整理过程无法并发执行,所带来的问题就是停顿时间变得更长了。

  • -XX:CMSFullGCsBeforeCompaction设置在执行多少次Full GC后对内存空间进行压缩整理。

  • -XX:ParallelCMSThreads 设置CMS的线程数量。

  • CMS 默认启动的线程数是(ParallelGCThreads+3)/4,ParallelGCThreads是年轻代并行收集器的线程数。当CPU资源比较紧张时,受到CMs收集器线程的影响,
    应用程序的性能在垃圾回收阶段可能会非常糟糕。
     

6.6 为什么配置了CMS GC,却触发了Full GC?

1、 大对象分配时,年轻代放不下,直接去老年代,结果老年代也放不下;
2、 内存碎片问题(使用标记-清除算法的缺点);
3、 CMSGC失败(concurrentmodefailure导致);
4、 jmap-histo人为执行了命令;

6.7 小结

HotSpot有这么多的垃圾回收器,那么如果有人问,Serial GC、Parallel GC、Concurrent Mark Sweep GC这三个GC有什么不同呢?请记住以下口令:

  • 如果你想要最小化地使用内存和并行开销,请选Serial GC;
  • 如果你想要最大化应用程序的吞吐量,请选Parallel GC;
  • 如果你想要最小化GC的中断或停顿时间,请选CMS GC。
6.7.1 JDK 后续版本中CMS的变化
  • JDK9新特性: CMS被标记为Deprecate了(JEP291)

  • 如果对JDK 9及以上版本的HotSpot虚拟机使用参数一XX:+UseConcMarkSweepGC来开启CMS收集器的话,用户会收到一个警告信息,提示CMS未来将会被废弃。

  • JDK14新特性: 删除CMS垃圾回收器(JEP363)

  • 移除了CMS垃圾收集器,如果在JDK14中使用-XX:+UseConcMarkSweepGC的话,JVM不会报错,只是给出一个warning信息,但是不会exit。JVM会自动回退以默认GC方式启动JVM

7.G1回收器:区域划分代式

7.1 既然有了前面几个强大的GC,为什么还要发布Garbage First GC?

原因就在于应用程序所应对的业务越来越庞大、复杂,用户越来越多,没有GC就不能保证应用程序正常进行,而经常造成STW的GC又跟不上实际的需求,所以才会不断地尝试对GC进行优化。G1 (Garbage一First) 垃圾回收器是在Java7 update4之后引入的一个新的垃圾回收器,是当今收集器技术发展的最前沿成果之一。

与此同时,为了适应现在不断扩大的内存和不断增加的处理器数量,进一步降低暂停时间(pause time) ,同时兼顾良好的吞吐量。

官方给G1设定的目标是在延迟可控的情况下获得尽可能高的吞吐量,所以才担当起“全功能收集器”的重任与期望

7.2 为什么名字叫做Garbage First?

  • 因为G1是一个并行回收器,它把堆内存分割为很多不相关的区域(Region) (物理上不连续的)。使用不同的Region来表示Eden、幸存者0区,幸存者1区,老年代等。
  • G1 GC有计划地避免在整个Java 堆中进行全区域的垃圾收集。G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region
  • 由于这种方式的侧重点在于回收垃圾最大量的区间(Region),所以我们给G1一个名字:垃圾优先(Garbage First) 。

我的理解:G1看中的是回收效率,即使有个region快满了,然后去回收发现几乎无法回收,都是可达对象,不能产生空闲内存,这样就浪费了时间。

7.3 G1概述

G1(Garbage一First) 是一款面向服务端应用的垃圾收集器,主要针对配备多核CPU及大容量内存的机器,以极高概率满足GC停顿时间的同时,还兼具高吞吐量的性能特征。

在JDK1. 7版本正式启用,移除了Experimental的标识,是JDK9以后的默认垃圾回收器,取代了CMS回收器以及Parallel + Parallel Old组合。被Oracle官方称为“全功能的垃圾收集器” 。

与此同时,CMS已经在JDK 9中被标记为废弃(deprecated) 。在jdk8中还不是默认的垃圾回收器,需要使用-XX:+UseG1GC来启用。

7.4 G1优点:

与其他GC收集器相比,G1使用了全新的分区算法,其特点如下所示:

7.4.1 并行与并发
  • 并行性: G1在回收期间,可以有多个Gc线程同时工作,有效利用多核计算能力。此时用户线程STW
  • 并发性: G1拥有与应用程序交替执行的能力,部分工作可以和应用程序同时执行,因此,一般来说,不会在整个回收阶段发生完全阻塞应用程序的情况
7.4.2 分代收集
  • 从分代上看,G1依然属于分代型垃圾回收器,它会区分年轻代和老年代,年轻代依然有Eden区和Survivor区。但从堆的结构,上看,它不要求整个Eden区、年轻代或者老年代都是连续的,也不再坚持固定大小和固定数量。
  • 将堆空间分为若干个区域(Region) ,这些区域中包含了逻辑上的年轻代和老年代。
  • 和之前的各类回收器不同,它同时兼顾年轻代和老年代。对比其他回收器,或者工作在年轻代,或者工作在老年代;
7.4.3 空间整合
  • CMS: “标记一清除”算法、内存碎片、若干次Gc后进行一次碎片整理
  • G1将内存划分为一个个的region。 内存的回收是以region作为基本单位的.Region之间是复制算法,但整体上实际可看作是标记一压缩(Mark一Compact)算法,两种算法都可以避免内存碎片。这种特性有利于程序长时间运行,分配大对象时不会因为无法找到连续内存空间而提前触发下一次GC。尤其是当Java堆非常大的时候,G1的优势更加明显。
7.4.4 可预测的停顿时间模型(即:软实时soft real一time)
  • 这是G1相对于CMS的另一大优势,G1除了追求低停顿外,还能建立可预测的停顿时间模型,能让使用者明确指定在一个长度为M毫秒的时间片段内,消耗在垃圾收集上的时间不得超过N毫秒。

  • 由于分区的原因,G1可以只选取部分区域进行内存回收,这样缩小了回收的范围,因此对于全局停顿情况的发生也能得到较好的控制。

  • G1跟踪各个Region里面的垃圾堆积的价值大小(回收所获得的空间大小以及回收所需时间的经验值),在后台维护一个优先列表,每次根据允许的收集时间,优先回收价值最大的Region。保证了G1 收集器在有限的时间内可以获取尽可能高的收集效率。

  • 相比于CMSGC,G1未必能做到CMS在最好情况下的延时停顿,但是
    最差情况要好很多。

 

7.5 G1缺点:

相较于CMS,G1还不具备全方位、压倒性优势。比如在用户程序运行过程中,G1无论是为了垃圾收集产生的内存占用(Footprint) 还是程序运行时的额外执行负载(overload) 都要比CMS要高。

从经验上来说,在小内存应用上CMS的表现大概率会优于G1,而G1在大内存应用,上则发挥其优势。平衡点在6一8GB之间。

7.6 G1参数设置

最大GC暂停时间不能设置的太短,如果太短,G1回收器能够回收的region就会更少,就会导致很多region永远不会回收,最后内存占满执行Full GC。

  • -XX:+UseG1GC 手动指定使用G1收集器执行内存回收任务。
  • -XX:G1HeapRegionSize 设置每个Region的大小。值是2的幂,范围是1MB到32MB之间,目标是根据最小的Java堆大小划分出约2048个区域。默认是堆内存的1/2000。
  • -XX:MaxGCPauseMillis 设置期望达到的最大Gc停顿时间指标(JVM会尽力实现,但不保证达到)。默认值是200ms;如果设置的过小,每次回收的Region只能是价值较低的region,直到发生OOM
  • -XX:ParallelGCThreads 设置STW工作线程数的值。最多设置为8
  • -XX:ConcGCThreads 设置并发标记的线程数。将n设置为并行垃圾回收线程数(ParallelGCThreads)的1/4左右。
  • -XX:Ini tiatingHeapOccupancyPercent 设置触发并发GC周期的Java堆占用率阈值。超过此值,就触发GC。默认值是45。

7.7 G1常见操作步骤

G1的设计原则就是简化JVM性能调优,开发人员只需要简单的三步即可完成调优:

1、 开启G1垃圾收集器;
2、 设置堆的最大内存;
3、 设置最大的停顿时间;

G1中提供了三种垃圾回收模式: YoungGC、 Mixed GC和Full GC, 在不同的条件下被触发。

7.8 G1的适用场景

  • 面向服务端应用,针对具有大内存、多处理器的机器。(在普通大小的堆里表现并不惊喜)

  • 最主要的应用是需要低GC延迟,并具有大堆的应用程序提供解决方案;

  • 如:在堆大小约6GB或更大时,可预测的暂停时间可以低于0.5秒; ( G1通过每次只清理一部分而不是全部的Region的增量式清理来保证每次GC停顿时间不会过长)。

  • 用来替换掉JDK1.5中的CMS收集器;在下面的情况时,使用G1可能比CMS好:

  • 超过50%的Java堆被活动数据占用;

  • 对象分配频率或年代提升频率变化很大;

  • GC停顿时间过长(长于0. 5至1秒)。

  • HotSpot垃圾收集器里,除了G1以外,其他的垃圾收集器使用内置的JVM线程执行GC的多线程操作,而G1 GC可以采用应用线程承担后台运行的GC工作,即当JVM的GC线程处理速度慢时,系统会调用应用程序线程帮助加速垃圾回收过程。

7.9 Region:化整为零

使用G1收集器时,它将整个Java堆划分成约2048个大小相同的独立Region块,每个Region块大小根据堆空间的实际大小而定,整体被控制在1MB到32MB之间,且为2的N次幂,即1MB, 2MB, 4MB, 8MB, 1 6MB, 32MB。可以通过-XX:G1HeapRegionSize设定。所有的Region大小相同,且在JVM生命周期内不会被改变

虽然还保留有新生代和老年代的概念,但新生代和老年代不再是物理隔离的了,它们都是一部分Region (不需要连续)的集合。通过Region的动态分配方式实现逻辑_上的连续。
 

  • 一个region 有可能属于Eden, Survivor 或者0ld/Tenured 内存区域。但是一个region只可能属于一个角色。图中的E表示该region属于Eden内存区域,s表示属于Survivor内存区域,0表示属于0ld内存区域。图中空白的表示未使用的内存空间。
  • G1垃圾收集器还增加了一种新的内存区域,叫做Humongous内存区域,如图中的H块。主要用于存储大对象,如果对象大小超过0.5个region,就放到H。
7.9.1 设置H的原因:

对于堆中的大对象,默认直接会被分配到老年代,但是如果它是一个短期存在的大对象,就会对垃圾收集器造成负面影响。为了解决这个问题,G1划分了一个Humongous区,它用来专门存放大对象。如果一个H区装不下一个大对象,那么G1会寻找连续的H区来存储。为了能找到连续的H区,有时候不得不启动Full GC。G1的大多数行为都把H区作为老年代的一部分来看待。

7.10 G1垃圾回收过程:

主要包含以下三个环节:

  • 年轻代GC(Young GC),对年轻代的回收,是回收年轻代所有的region,包括所有的eden区和survivor区的region
  • 老年代并发标记过程(Concurrent Marking)
  • 混合回收(Mixed GC)
  • (如果需要,单线程、独占式、高强度的Full GC还是继续存在的。它针对GC的评估失败提供了一种失败保护机制,即强力回收。)

 

  • 应用程序分配内存,当年轻代的Eden区用尽时开始年轻代回收过程:
    G1的年轻代收集阶段是一个并行的独占式(STW)收集器。在年轻代回收期,G1 GC暂停所有应用程序线程,启动多线程执行年轻代回收。然后从年轻代区间移动存活对象到Survivor区间或者老年区间,也有可能是两个区间都会涉及。
  • 当堆内存使用达到一定值(默认45%)时,开始老年代并发标记过程。
  • 标记完成马上开始混合回收过程:
    对于一个混合回收期,G1从老年区间移动存活对象到空闲区间,这些空闲区间也就成为了老年代的一部分。和年轻代不同,老年代的G1回收器和其他GC不同,G1的老年代回收器不需要整个老年代被回收,一次只需要扫描/回收一小部分老年代的Region就可以了。同时,这个老年代Region是和年轻代一起被回收的

举个例子:一个web服务器,Java进程最大堆内存为4G,每分钟响应1500个请求,每45秒钟会新分配大约2G的内存。G1会每45秒钟进行一次年轻代回收,每31 个小时整个堆的使用率会达到45号,会开始老年代并发标记过程,标记完成后开始四到五次的混合回收。

上述例子的每45秒重新分配2G内存是指每45秒进行一次全年轻代的YGC,每31小时进行mixed GC。

7.10.1 Remembered Set记忆集
  • 一个对象被不同区域引用的问题:

  • 一个Region不可能是孤立的,一个Region中的对象可能被其他任意Region中的对象引用。判断对象存活时,是不是要扫描整个堆区才能保证准确?

  • 在其他的分代收集器,也存在这样的问题(但是G1更突出)

  • 一个老年代的region的对象引用一个年轻代的region的对象,是不是进行YGC的时候同时也要扫描老年代?

  • 这样的话会降低YGC的效率。

  • 解决方法:

  • 无论G1还是其他分代收集器,JVM都是使用RememberedSet来避免全局扫描

  • 每个Region都有 一个对应的Remembered Set

  • 每次Reference类型数据写操作时,都会产生一个Write Barrier(写屏障)暂时中断操作;

  • 然后检查将要写入的引用指向的对象是否和该Reference类型数据在不同的Region (其他收集器:检查老年代对象是否引用了新生代对象) ;

  • 如果不同,通过CardTable(卡表)把相关引用信息记录到引用指向对象的所在Region对应的Remembered Set中;

  • 当进行垃圾收集时,在GC根节点的枚举范围加入Remembered Set;就可以保证不进行全局扫描,也不会有遗漏

我的理解:每次进行引用的时候,都会在region自己的Rset中记录下,是哪个region中的对象引用了当前region中的对象。每次对当前region进行回收时,在GC Roots中加入这个Rset,如果Rset中有引用就不能被回收。(注意,这里是我的简单理解,引用时并不是直接记录到Rset中,而是记录到Card中)
 

7.10.2 回收过程一:年轻代GC

JVM启动时,G1 先准备好Eden区,程序在运行过程中不断创建对象到Eden区,当Eden空间耗尽时,G1会启动一次年轻代垃圾回收过程。

年轻代垃圾回收只会回收Eden区和Survivor区。

YGC时,首先G1停止应用程序的执行(Stop-The-World),G1创建回收集(Collection Set),回收集是指需要被回收的内存分段的集合,年轻代回收过程的回收集包含年轻代Eden区和Survivor区所有的内存分段。
 
然后开始如下回收过程:

  • 第一阶段,扫描根
    根是指static变量指向的对象,正在执行的方法调用链条上的局部变量等。根引用连同RSet记录的外部引用作为扫描存活对象的入口。
  • 第二阶段,更新RSet
    处理dirty card queue( 见备注)中的card,更新RSet。 此阶段完成后,RSet可 以准确的反映老年代对所在的内存分段中对象的引用
    dirty card queue:对于应用程序的引用赋值语句object.field=object,JVM会在之前和之后执行特殊的操作以在dirty card queue中入队一个保存了对象引用信息的card。在年轻代回收的时候,G1会对Dirty Card Queue中所有的card进行处理,以更新RSet,保证RSet实时准确的反映引用关系。
    那为什么不在引用赋值语句处直接更新RSet呢?这是为了性能的需要,RSet的处理需要线程同步,开销会很大,使用队列性能会好很多。
  • 第三阶段,处理RSet
    识别被老年代对象指向的Eden中的对象,这些被指向的Eden中的对象被认为是存活的对象。
  • 第四阶段,复制对象
    此阶段,对象树被遍历,Eden区 内存段中存活的对象会被复制到Survivor区中空的内存分段,Survivor区内存段中存活的对象如果年龄未达阈值,年龄会加1,达到阀值会被会被复制到01d区中空的内存分段。如果Survivor空间不够,Eden空间的 部分数据会直接晋升到老年代空间。
  • 第五阶段,处理引用
    处理Soft,Weak, Phantom, Final, JNI Weak等引用。最终Eden空间的数据为空,GC停止工作,而目标内存中的对象都是连续存储的,没有碎片,所以复制过程可以达到内存整理的效果,减少碎片。
7.10.3 回收过程二:并发标记过程(针对老年代)

1、 初始标记阶段:标记从根节点直接可达的对象这个阶段是STW的,并且会触发一.次年轻代GC;
2、 根区域扫描(RootRegionScanning):G1扫描Survivor区直接可达的老年代区域对象,并标记被引用的对象这一过程必须在youngGC之前完成;
3、 并发标记(ConcurrentMarking):在整个堆中进行并发标记(和应用程序并发执行),此过程可能被youngGC中断在并发标记阶段,若发现区域对象中的所有对象都是垃圾,那这个区域会被立即回收同时,并发标记过程中,会计算每个区域的对象活性(区域中存活对象的比例);
4、 再次标记(Remark):由于应用程序持续进行,需要修正上一次的标记结果是STW的G1中采用了比CMS更快的初始快照算法:snapshot一at一the一beginning(SATB);
5、 独占清理(cleanup,STW):计算各个区域的存活对象和GC回收比例,并进行排序,识别可以混合回收的区域为下阶段做铺垫是STW的;

  • 这个阶段并不会实际上去做垃圾的收集
    6、 并发清理阶段:识别并清理完全空闲的区域;
7.10.4 回收过程三:混合回收

当越来越多的对象晋升到老年代oldregion时,为了避免堆内存被耗尽,虚拟机会触发一个混合的垃圾收集器,即Mixed GC, 该算法并不是一个oldGC,除了回收整个Young Region,还会回收一部分的OldRegion。
这里需要注意:是一部分老年代, 而不是全部老年代。可以选择哪些OldRegion进行收集,从而可以对垃圾回收的耗时时间进行控制。也要注意的是Mixed GC并不是Full GC。
 

  • 并发标记结束以后,老年代中百分百为垃圾的内存分段被回收了,部分为垃圾的内存分段被计算了出来。默认情况下,这些老年代的内存分段会分8次(可以通-XX: G1MixedGCCountTarget设置)被回收。
  • 混合回收的回收集(Collection Set) 包括八分之一的老年代内存分段,Eden区内存分段,Survivor区内存分段。混合回收的算法和年轻代回收的算法完全一样,只是回收集多了老年代的内存分段。具体过程请参考上面的年轻代回收过程。
  • 由于老年代中的内存分段默认分8次回收,G1会优先回收垃圾多的内存分段。垃圾占内存分段比例越高的,越会被先回收。并且有一个阈值会决定内存分段是否被回收,-XX: G1MixedGCLiveThresholdPercent,默认为65%,意思是垃圾占内存分段比例要达到65%才会被回收。如果垃圾占比太低,意味着存活的对象占比高,在复制的时候会花费更多的时间。
  • 混合回收并不一定要进行8次。有一个阈值-XX:G1HeapWastePercent,默认值为10%,意思是允许整个堆内存中有10%的空间被浪费,意味着如果发现可以回收的垃圾占堆内存的比例低于10%,则不再进行混合回收。因为GC会花费很多的时间但是回收到的内存却很少。
7.10.5 回收过程四:Full GC

G1的初衷就是要避免Full GC的出现。但是如果上述方式不能正常工作,G1会停止应用程序的执行(Stop一 The一World),使用单线程的内存回收算法进行垃圾回收,性能会非常差,应用程序停顿时间会很长。

要避免Full GC的发生,一旦发生需要进行调整。什么时候会发生Full GC呢?比如堆内存太小,当G1在复制存活对象的时候没有空的内存分段可用,则会回退到full gc, 这种情况可以通过增大内存解决。
  
导致G1Full GC的原因可能有两个:

1、 Evacuation的时候没有足够的to一space来存放晋升的对象;
2、 并发处理过程完成之前空间耗尽;

7.11 G1优化建议:

  • 年轻代大小

  • 避免使用一Xmn或一XX:NewRatio等相关选项显式设置年轻代大小

  • 固定年轻代的大小会覆盖暂停时间目标

  • 暂停时间目标不要太过严苛

  • G1 GC的吞吐量目标是90%的应用程序时间和10%的垃圾回收时间

  • 评估G1 GC的吞吐量时,暂停时间目标不要太严苛。目标太过严苛表示你愿意承受更多的垃圾回收开销,而这些会直接影响到吞吐量。

7.12 补充

从Oracle官方透露出来的信息可获知,回收阶段(Evacuation)其实本也有想过设计成与用户程序一起并发执行,但这件事情做起来比较复杂,考虑到G1只是回收一部分Region, 停顿时间是用户可控制的,所以并不迫切去实现,而选择把这个特性放到了G1之后出现的低延迟垃圾收集器(即ZGC)中。另外,还考虑到G1不是仅仅面向低延迟,停顿用户线程能够最大幅度提高垃圾收集效率,为了保证吞吐量所以才选择了完全暂停用户线程的实现方案。

8.垃圾回收器总结:

 

8.1 怎么选择垃圾回收器?

Java垃圾收集器的配置对于JVM优化来说是一个很重要的选择,选择合适的垃圾收集器可以让JVM的性能有一个很大的提升。

怎么选择垃圾收集器?

1、 优先调整堆的大小让JVM自适应完成;
2、 如果内存小于100M,使用串行收集器;
3、 如果是单核、单机程序,并且没有停顿时间的要求,串行收集器;
4、 如果是多CPU、需要高吞吐量、允许停顿时间超过1秒,选择并行或者JVM自己选择;
5、 如果是多CPU、追求低停顿时间,需快速响应(比如延迟不能超过1秒,如互联网应用),使用并发收集器;

官方推荐G1,性能高。现在互联网的项目,基本都是使用G1

最后需要明确一个观点:

1、 没有最好的收集器,更没有万能的收集;
2、 调优永远是针对特定场景、特定需求,不存在一劳永逸的收集器;

9.GC日志分析

通过阅读GC日志,我们可以了解Java虛拟机内存分配与回收策略。

内存分配与垃圾回收的参数列表

  • -XX:+PrintGC 输出Gc日志。类似: -verbose:gc
  • -XX:+PrintGCDetails 输出GC的详细日志
  • -XX:+PrintGCTimeStamps 输出GC的时间戳(以基准时间的形式)
  • -XX:+PrintGCDateStamps输出GC的时间戳(以日期的形式,如2013-0504T21:53:59.234+0800 )
  • -XX:+PrintHeapAtGC 在进行GC的前后打印出堆的信息
  • -Xloggc:. . /logs/gc. log日志文件的输出路径

9.1 jdk8下PrintGC的日志:

这个只会显示总的GC堆的变化, 如下:

[GC (Allocation Failure) 80832K一>19298K(227840K),0.0084018 secs]
[GC (Metadata GC Threshold) 109499K一>21465K (228352K),0.0184066 secs]
[Full GC (Metadata GC Threshold) 21 465K一>16716K (201728K),0.0619261 secs ]

参数解析:

  • GC、Full GC: GC的类型,GC只在新生代上进行,Full GC包括永生代,新生代, 老年代。
  • Allocation Failure: GC发生的原因。
  • 80832K一> 19298K:堆在GC前的大小和GC后的大小。
  • 228840k:现在的堆大小。
  • 0.0084018 secs: GC持续的时间。

代码测试截图:
 

9.2 jdk8下PrintGCDetails的日志:

打开GC日志: -verbose:gc-XX:+PrintGCDetaiis

输出信息如下:

[GC (Allocation Failure) [ PSYoungGen: 70640K一> 10116K(141312K) ] 80541K一>20017K (227328K),0.0172573 secs] [Times: user=0.03 sys=0.00, real=0.02 secs ]
[GC (Metadata GC Threshold) [PSYoungGen:98859K一>8154K(142336K) ] 108760K一>21261K (228352K),
0.0151573 secs] [Times: user=0.00 sys=0.01, real=0.02 secs]
[Full GC (Metadata GC Threshold) [PSYoungGen: 8154K一>0K(142336K) ] [ParOldGen: 13107K一>16809K(62464K) ] 21261K一>16809K (204800K),[Metaspace: 20599K一>20599K (1067008K) ],0.0639732 secs]
[Times: user=0.14 sys=0.00, real=0.06 secs]

参数解析:

  • GC,Full FC:同样是GC的类型
  • Allocation Failure: GC原因
  • PSYoungGen:使用了Parallel Scavenge并行垃圾收集器的新生代GC前后大小的变化
  • ParOldGen:使用了Parallel Old并行垃圾收集器的老年代Gc前后大小的变化
  • Metaspace: 元数据区GC前后大小的变化,JDK1.8中引入了 元数据区以替代永久代
  • xxx secs : 指Gc花费的时间
  • Times: user: 指的是垃圾收集器花费的所有CPU时间,
  • sys: 花费在等待系统调用或系统事件的时间,
  • real :GC从开始到结束的时间,包括其他进程占用时间片的实际时间。

代码测试截图:
 

9.3 补充说明

  • “[GC"和”[Full GC"说明了这次垃圾收集的停顿类型,如果有"Full"则说明GC发生了"StopThe World"
  • 使用Serial收集器在新生代的名字是De fault New Generation, 因此显示的是" [DefNew"
  • 使用ParNew收集器在新生代的名字会变成" 【ParNew",意思是"Parallel New Generation"
  • 使用Parallel Scavenge收 集器在新生代的名字是" 【PSYoungGen"
  • 老年代的收集和新生代道理一样,名字也是收集器决定的
  • 使用G1收集器的话,会显示为"garbage一 first heap"
  • Allocation Failure
    表明本次引起GC的原因是因为在年轻代中没有足够的空间能够存储新的数据了。
  • [PSYoungGen: 5986K一>696K(8704K)] 5986K一> 704K (9216K)
    中括号内: GC回收前年轻代大小,回收后大小,( 年轻代总大小)
    括号外: GC回收前年轻代和老年代大小,回收后大小,( 年轻代和老年代总大小)
  • Times中:user代表用户态回收耗时,sys 内核态回收耗时, rea实际耗时。由于多核的原因,时间总和可能会超过real时间

 

YGC日志分解:
 
Full GC日志分解:
 

9.4 代码示例举例堆空间日志

/**
 * 在jdk7 和 jdk8中分别执行
 * -verbose:gc -Xms20M -Xmx20M -Xmn10M -XX:+PrintGCDetails -XX:SurvivorRatio=8 -XX:+UseSerialGC
 */
public class GCLogTest1 {

    private static final int _1MB = 1024 * 1024;

    public static void testAllocation() {

        byte[] allocation1, allocation2, allocation3, allocation4;
        allocation1 = new byte[2 * _1MB];
        allocation2 = new byte[2 * _1MB];
        allocation3 = new byte[2 * _1MB];
        allocation4 = new byte[4 * _1MB];
    }

    public static void main(String[] agrs) {

        testAllocation();
    }
}

JDK7中:想要在新生代分配4m的空间,但是新生代空间不够了,会将新生代中的对象(6m)放到老年代,然后将需要新添加的4m的对象放到新生代
 
 
JDK8中:新生代还是用了6m空间,此时需要添加4m的大对象,就会直接加到老年代中
 
 

9.4 日志分析工具:

导出日志:
 
日志分析推荐使用GCEasy。
 
还可以直接在idea安装一个VisualGC的插件查看:
 

10.垃圾回收器的新发展

GC仍然处于飞速发展之中,目前的默认选项G1 GC在不断的进行改进,很多我们原来认为的缺点,例如串行的Full GC、Card Table扫描的低效等,都已经被大幅改进,例如,JDK 10以后,Full GC已经是并行运行,在很多场景下,其表现还略优于Parallel GC的并行Full GC实现。

即使是Serial GC,虽然比较古老,但是简单的设计和实现未必就是过时的,它本身的开销,不管是GC相关数据结构的开销,还是线程的开销,都是非常小的,所以随着云计算的兴起,在Serverless等新的应用场景下,Serial GC找到了新的舞台。
  
比较不幸的是CMS GC, 因为其算法的理论缺陷等原因,虽然现在还有非常大的用户群体,但在JDK9中已经被标记为废弃,并在JDK14版本中移除。

10.1 JDK11 新特性

 

10.2 Open JDK12的Shenandoah GC:低停顿时间的GC

现在G1回收器已成为默认回收器好几年了。
我们还看到了引入了两个新的收集器:ZGC ( JDK11出现)和Shenandoah(Open JDK12) 。
主打特点:低停顿时间

  • Shenandoah,无疑是众多GC中最孤独的一个。是第一款不由Oracle公司团队领导开发的HotSpot垃圾收集器。不可避免的受到官方的排挤。比如号称OpenJDK和OracleJDK没有区别的Oracle公司仍拒绝在OracleJDK12中支持Shenandoah。
  • Shenandoah垃圾回收器最初由RedHat进行的一项垃 圾收集器研究项目PauselessGC的实现,旨在针对JVM上的内存回收实现低停顿的需求。在2014年贡献给OpenJDK。
  • Red Hat研发Shenandoah团队对外宣称,Shenandoah垃圾回收器的暂停时间与堆大小无关,这意味着无论将堆设置为200MB还是200GB,99.9%的目标都可以把垃圾收集的停顿时间限制在十毫秒以内。不过实际使用性能将取决于实际工作堆的大小和工作负载。

 

总结:

  • Shenandoah GC的弱项:高运行负担下的吞吐量下降。
  • Shenandoah GC的强项:低延迟时间。

10.3 ZGC

  • ZGC与Shenandoah目标高度相似,在尽可能对吞吐量影响不大的前提下,实现在任意堆内存大小下都可以把垃圾收集的停顿时间限制在十毫秒以内的低延迟
  • 《深入理解Java虚拟机》一书中这样定义ZGC: ZGC收集器是一款基于Region内存布局的,(暂时) 不设分代的,使用了读屏障、染色指针和内存多重映射等技术来实现可并发的标记一压缩算法的,以低延迟为首要目标的一款垃圾收集器
  • ZGC的工作过程可以分为4个阶段:并发标记-并发预备重分配-并发重分配-并发重映射等。
  • ZGC几乎在所有地方并发执行的,除了初始标记的是sTW的。所以停顿时间.几乎就耗费在初始标记上,这部分的实际时间是非常少的。
10.3.1 测试数据如图:

1、 吞吐量为维度:;

1、 考虑低延迟的情况;
2、 不考虑低延迟的情况;
 
2、 低延迟为维度:;
 

在ZGC的强项停顿时间测试上,它毫不留情的将Parallel、G1拉开了两个数量级的差距。无论平均停顿、958停顿、998停顿、99. 98停顿,还是最大停顿时间,ZGC 都能毫不费劲控制在10毫秒以内。

10.3.2 其他
  • JDK14之前,ZGC仅Linux才支持
  • 尽管许多使用ZGC的用户都使用类Linux的环境,但在Windows和macOS 上,人们也需要ZGC进行开发部署和测试。许多桌面应用也可以从ZGC中受益。因此,ZGC特性被移植到了Windows和macOs.上。
  • 现在mac或Windows 上也能使用zGC了,示例如下:-XX: +Unloc kExperimentalVMOptions -XX:+UseZGC