性能文章>JVM的垃圾收集算法>

JVM的垃圾收集算法原创

1年前
266113

介绍分代收集理论和几种垃圾收集算法的思想及其发展过程。

分代收集理论

当前商业虚拟机的垃圾收集器,大多数都遵循了 “分代收集”(Generational Collection)的理论进行设计,分代收集名为理论,实质是一套符合大多数程序运行实际情况的经验法则,分代收集理论它建立在两个分代假说之上:

  • 弱分代假说(Weak Generational Hypothesis):绝大多数对象都是朝生夕灭的。
  • 强分代假说(Strong Generational Hypothesis):熬过越多次垃圾收集过程的对象就越难以消亡。

这两个分代假说共同奠定了多款常用的垃圾收集器的一致的设计原则:垃圾收集器应该将 Java 堆划分出不同的区域,然后将回收对象依据其年龄(年龄即对象熬过垃圾收集过程的次数)分配到不同的区域之中存储。显而易见:

  • 如果一个区域中大多数对象都是朝生夕灭,难以熬过垃圾收集过程的话,那么把它们集中放在一起,每次回收时只关注如何保留少量存活而不是去标记那些大量将要被回收的对象,就能以较低的代价回收到大量的空间;
  • 如果剩下的都是难以消亡的对象,那把它们集中放在一起,虚拟机便可以使用较低的频率来回收这个区域。
  • 这就同时兼顾了垃圾收集的时间开销和内存的空间有效利用。

在 Java 堆划分出不同的区域之后,垃圾收集器才可以每次只回收其中某一个或者某些部分的区域,因而才有了 “Minor GC”、“Major GC”、“Full GC” 这样的回收类型的划分;也才能够针对不同的区域 安排与里面存储对象存亡特征相匹配的垃圾收集算法,因而发展出了 “标记-清除算法”、“标记-复制算法”、“标记-整理算法” 等针对性的垃圾收集算法。

把分代收集理论具体放到现在的商用 Java 虚拟机里,设计者一般至少会把 Java 堆划分为新生代(Young Generation) 和老年代(Old Generation)两个区域。顾名思义,在新生代中,每次垃圾收集时都会发现有大批对象死去,而每次回收后存活的少量对象,将会逐步晋升到老年代中存放。


分代收集并非只是简单划分一下内存区域那么容易,它至少存在一个明显的困难:对象不是孤立的,对象之间会存在跨代引用。假如现在要进行一次只局限于新生代区域内的垃圾收集(Minor GC),但新生代中的对象是完全有可能被老年代所引用的,为了找出该区域中的存活对象,不得不在固定的 GC Roots 之外,再额外遍历整个老年代中所有的对象来确保可达性分析结果的正确性,反过来也是一样。

遍历整个老年代中所有对象的方案虽然理论上可行,但无疑会为内存回收带来很大的性能负担。为了解决这个问题,就需要对分代收集理论添加第三条经验法则:跨代引用假说(Intergenerational Reference Hypothesis):跨代引用相对于同代引用来说仅占极少数。

这其实是可根据前两条假说逻辑推理得出的隐含推论:存在互相引用关系的两个对象,是应该倾向于同时生存或者同时消亡的。举个例子,如果某个新生代对象存在跨代引用,由于老年代对象难以消亡,该引用会使得新生代对象在垃圾收集时同样得以存活,进而在年龄增长之后晋升到老年代中,这时跨代引用也随即被消除了。

依据这条假说,我们就不应再为了少量的跨代引用去扫描整个老年代,也不必浪费空间专门记录每一个对象是否存在及存在哪些跨代引用,只需在新生代上建立一个全局的数据结构(该结构被称为“记忆集”, Remembered Set),这个结构把老年代划分成若干小块,标识出老年代的哪一块内存会存在跨代引用。此后当发生 Minor GC 时,只有包含了跨代引用的小块内存里的对象才会被加入到 GC Roots 进行扫描。虽然这种方法需要在对象改变引用关系(如将自己或者某个属性赋值)时维护记录数据的正确性,会增加一些运行时的开销,但比起垃圾收集时扫描整个老年代来说仍然是划算的。

标记-清除算法

最早出现也是最基础的垃圾收集算法是 “标记-清除”(Mark-Sweep)算法,“标记-清除” 算法分为 “标记” 和 “清除” 两个阶段:首先标记出所有需要回收的对象,在标记完成后,统一回收掉所有被标记的对象。也可以反过来,标记出所有存活的对象,在标记完成后,统一回收掉所有未被标记的对象。


之所以说 “标记-清除” 算法是最基础的收集算法,是因为后续的垃圾收集算法大多是以 “标记-清除” 算法为基础,对 “标记-清除” 算法的缺点进行改进而得到的。“标记-清除” 算法的主要缺点有两个:

  • 第一个是:执行效率不稳定。如果 Java 堆中包含大量的对象,而且其中大部分是需要被回收的,这时必须进行大量标记和清除的动作,导致标记和清除这两个过程的执行效率都随对象数量增长而降低;
  • 第二个是:内存空间的碎片化问题。标记、清除之后会产生大量不连续的内存碎片,内存碎片太多可能会导致程序运行的过程中需要分配较大对象时,无法找到足够的连续内存而不得不提前触发另一次垃圾收集动作。

“标记-清除” 算法的执行过程如图所示。

标记-复制算法

“标记-复制” 算法常被简称为复制算法。

为了解决 “标记-清除” 算法面对大量可回收对象时执行效率低的问题,1969 年 Fenichel 提出了一种被称为 “半区复制”(Semispace Copying)的垃圾收集算法,它将可用内存按容量划分为大小相等的两块,每次只使用其中的一块。当这一块内存用完时,就将还存活着的对象复制到另外一块内存上,然后再将已使用过的内存空间一次清理掉。


“标记-复制” 算法的优劣局限:

  • 如果内存中多数对象都是存活的,“标记-复制” 算法将会产生大量的内存间复制的开销,但对于多数对象都是可回收的情况,算法需要复制的就是占少数的存活对象,而且每次都是针对整个半区进行内存回收,分配内存时也就不用考虑有空间碎片的复杂情况,只要移动堆顶指针,按顺序分配即可。
  • “标记-复制” 算法的实现简单,运行高效,不过其缺陷也显而易见,“标记-复制” 算法的代价是将可用内存缩小为了原来的一半,空间浪费有点多。

“标记-复制” 算法的执行过程如图所示。

image-20230222160848432.png

标记-整理算法

“标记-复制” 算法在对象存活率较高时就要进行较多的复制操作,效率将会降低。更关键的是,如果不想浪费 50% 的空间,就需要有额外的空间进行分配担保,以应对被使用的内存中所有对象都 100% 存活的极端情况,所以在老年代一般不能直接选用 “标记-复制” 算法。

针对老年代对象的存亡特征,1974 年 Edward Lueders 提出了一种有针对性的 “标记-整理”(Mark-Compact)算法, “标记-整理” 算法的标记过程仍然与 “标记-清除” 算法一样,但后续的步骤不是直接对可回收对象进行清理, 而是让所有存活的对象都向内存空间的一端移动,然后直接清理掉边界以外的内存。


“标记-整理” 算法的执行过程如图所示。

image-20230222162350154.png


“标记-清除” 算法与 “标记-整理” 算法的本质差异在于 “标记-清除” 算法是一种非移动式的回收算法,而 “标记-整理” 算法是一种移动式的回收算法。是否移动回收后的存活对象是一项优缺点并存的风险决策:

  • 如果移动存活对象,尤其是在老年代这种每次回收都有大量对象存活区域,移动存活对象并更新所有引用这些对象的地方将会是一种极为负重的操作,而且这种对象移动操作必须全程暂停用户应用程序才能进行,这就更加让使用者不得不小心翼翼地权衡其弊端了,像这样的停顿被最初的虚拟机设计者形象地描述为 “Stop The World”。
  • 但如果跟 “标记-清除” 算法那样完全不考虑移动和整理存活对象的话,弥散于 Java 堆中的存活对象导致的内存碎片化问题就只能依赖更为复杂的内存分配器和内存访问器来解决。譬如通过 “分区空闲分配链表” 来解决内存分配问题(计算机硬盘存储大文件就不要求物理连续的磁盘空间, 能够在碎片化的硬盘上存储和访问就是通过硬盘分区表实现的) 。内存的访问是用户程序最频繁的操作,甚至都没有之一,假如在内存访问这个环节上增加了额外的负担,势必会直接影响应用程序的吞吐量。

基于以上两点,是否移动对象都存在弊端,移动对象则内存回收时会更复杂,不移动对象则内存分配时会更复杂。从垃圾收集的停顿时间来看,不移动对象停顿时间会更短,甚至可以不需要停顿,但是从整个程序的吞吐量来看,移动对象会更划算。即使不移动对象会使得收集器的效率提升一些, 但因内存分配和访问相比垃圾收集的频率要高得多,这部分的耗时增加,总吞吐量仍然是下降的。HotSpot 虚拟机里面关注吞吐量的 Parallel Scavenge 收集器是基于 “标记-整理” 算法的,而关注延迟的 CMS 收集器则是基于 “标记-清除” 算法的,这也从侧面印证了这一点。

此语境中,吞吐量的实质是赋值器(Mutator,可以理解为使用垃圾收集的用户程序,本书为便于理解,多数地方用 “用户程序” 或 “用户线程” 代替)与收集器的效率总和。

另外, 还有一种 “和稀泥式” 的解决方案可以不在内存分配和访问上增加太大的额外负担,做法是让虚拟机平时多数时间都采用 “标记-清除” 算法,暂时容忍内存碎片的存在,直到内存空间的碎片化程度已经大到影响对象分配时,再采用 “标记-整理” 算法收集一次,以获得规整的内存空间。前面提到的基于 “标记-清除” 算法的 CMS 收集器面临内存碎片过多时采用的就是这种处理办法。

总结

分代收集理论

分代收集理论建立在两个分代假说之上:

  • 弱分代假说(Weak Generational Hypothesis):绝大多数对象都是朝生夕灭的。
  • 强分代假说(Strong Generational Hypothesis):熬过越多次垃圾收集过程的对象就越难以消亡。

这两个分代假说共同奠定了多款常用的垃圾收集器的一致的设计原则:垃圾收集器应该将 Java 堆划分出不同的区域,然后将回收对象依据其年龄(年龄即对象熬过垃圾收集过程的次数)分配到不同的区域之中存储。

在 Java 堆划分出不同的区域之后,垃圾收集器才可以每次只回收其中某一个或者某些部分的区域,因而才有了 “Minor GC”、“Major GC”、“Full GC” 这样的回收类型的划分;也才能够针对不同的区域 安排与里面存储对象存亡特征相匹配的垃圾收集算法,因而发展出了 “标记-清除算法”、“标记-复制算法”、“标记-整理算法” 等针对性的垃圾收集算法。

把分代收集理论具体放到现在的商用 Java 虚拟机里,设计者一般至少会把 Java 堆划分为新生代(Young Generation) 和老年代(Old Generation)两个区域。顾名思义,在新生代中,每次垃圾收集时都会发现有大批对象死去,而每次回收后存活的少量对象,将会逐步晋升到老年代中存放。

垃圾收集算法

“标记-清除” 算法

“标记-清除” 算法分为 “标记” 和 “清除” 两个阶段:首先标记出所有需要回收的对象,在标记完成后,统一回收掉所有被标记的对象。也可以反过来,标记出所有存活的对象,在标记完成后,统一回收掉所有未被标记的对象。

后续的垃圾收集算法大多是以 “标记-清除” 算法为基础,对 “标记-清除” 算法的缺点进行改进而得到的。


“标记-复制” 算法

“标记-清除” 算法在有大量对象需要回收时,要进行大量的清除操作,垃圾收集的效率将会降低。为了解决这个问题,有一个人提出了 “标记-复制” 算法,也被称为 “半区复制”。“标记-复制” 算法将可用内存按容量划分为大小相等的两块,每次只使用其中的一块。当这一块内存用完时,就将还存活着的对象复制到另外一块内存上,然后再将已使用过的内存空间一次清理掉。


“标记-整理” 算法

“标记-复制” 算法在对象存活率较高(多数对象都是存活的,几乎没有对象需要回收)时,要进行大量的复制操作,垃圾收集的效率将会降低。为了解决这个问题,有一个人提出了 “标记-整理” 算法, “标记-整理” 算法的标记过程仍然与 “标记-清除” 算法一样,但后续的步骤不是直接对可回收对象进行清理, 而是让所有存活的对象都向内存空间的一端移动,然后直接清理掉边界以外的内存。

不同算法的优劣局限

不同垃圾收集算法的优劣局限。


“标记-清除” 算法的优劣局限:

  • 第一个是:存在内存空间的碎片化问题。标记、清除之后会产生大量不连续的内存碎片,内存碎片太多可能会导致程序运行的过程中需要分配较大对象时,无法找到足够的连续内存而不得不提前触发另一次垃圾收集动作。
  • 第二个是:执行效率不稳定。在有大量对象需要回收时,要进行大量的清除操作,垃圾收集的效率将会降低。

“标记-复制” 算法的优劣局限:

  • 第一个是:不存在内存空间的碎片化问题。当一块内存用完时,就将还存活着的对象复制到另外一块内存上,分配内存时也就不用考虑有空间碎片的复杂情况,只要移动堆顶指针,按顺序分配即可。
  • 第二个是:执行效率不稳定。在对象存活率较高(多数对象都是存活的,几乎没有对象需要回收)时,要进行大量的复制操作,垃圾收集的效率将会降低。
  • 第三个是:空间浪费。“标记-复制” 算法的代价是将可用内存缩小为了原来的一半,空间浪费有点多

“标记-整理” 算法的优劣局限:

  • 第一个是:不存在内存空间的碎片化问题。垃圾收集时,让所有存活的对象都向内存空间的一端移动,然后直接清理掉边界以外的内存,不存在内存空间的碎片化问题。
  • 第二个是:停顿时间较长。垃圾收集时,需要移动存活的对象并更新所有引用这些对象的地方,这种对象移动操作必须全程暂停用户应用程序才能进行,停顿时间较长。

“标记-清除” 算法与 “标记-整理” 算法的本质差异在于 “标记-清除” 算法是一种非移动式的回收算法,而 “标记-整理” 算法是一种移动式的回收算法。是否移动回收后的存活对象是一项优缺点并存的风险决策。

  • 移动回收后的存活对象,不存在内存空间的碎片化问题,但内存回收时会更复杂(需要移动存活的对象并更新所有引用这些对象的地方);
  • 不移动回收后的存活对象,内存回收时的停顿时间会更短,甚至可以不需要停顿,但是内存分配时会更复杂(需要考虑内存空间的碎片化问题)。

参考资料

《深入理解 Java 虚拟机》第 3 章:垃圾收集器与内存分配策略 3.3 垃圾收集算法

点赞收藏
月明风清
请先登录,查看1条精彩评论吧
快去登录吧,你将获得
  • 浏览更多精彩评论
  • 和开发者讨论交流,共同进步
3
1