JVM学习笔记——虚拟机栈的溢出

一、虚拟机栈

Java虚拟机栈(Java Virtual Machine Stacks) 是线程私有的，它的生命周期与线程相同。虚拟机栈描述的是Java方法执行的内存模型：每个方法在执行的同时都会创建一个栈帧（Stack Frame）。每个方法从被调用到完成，就对应这一个栈帧在虚拟机栈的入栈到出栈的过程。

虚拟机栈隔离的，每个线程都有自己独立的虚拟机栈。

在 Java 虚拟机规范中，对虚拟机栈这个区域规定了两种异常状况：
1. 如果线程请求的栈深度大于虚拟机所允许的深度，将抛出 StackOverflowError 异常；
2. 如果虚拟机栈可以动态扩展（当前大部分的 Java 虚拟机都可动态扩展），在扩展时无法申请到足够的内存时会抛出 OutOfMemoryError 异常。

二、虚拟机的 StackOverflowError 异常

通过-Xss参数减小栈内存的容量，然后不断调用方法造成栈溢出。利用第一种异常状况抛出StackOverflowError 异常。

public class JVMStackSOF {
    private int stacklength = 1;   // 记录栈深度

    // 调用这个递归方法以造成栈溢出
    public void stackPush(){
        stacklength++;
        stackPush();
    }
    
    public static void main(String[] args) throws Throwable{
        JVMStackSOF sof = new JVMStackSOF();
        try{
            sof.stackPush();
        }catch(Throwable e){
            System.out.println("stack length = " + sof.stacklength);
            throw e;
        }
    }
}

openjdk@ubuntu:~$ java -Xss256k -cp
/home/openjdk/NetBeansProjects/JavaApplication1/build/classes test_JVMStackSOF.JVMStackSOF
stack length = 1888
Exception in thread "main" java.lang.StackOverflowError
   at test_JVMStackSOF.JVMStackSOF.stackPush(JVMStackSOF.java:17)
   at test_JVMStackSOF.JVMStackSOF.stackPush(JVMStackSOF.java:18)
……此处省略多行调用栈信息

黑体字部分是我执行时的指令
-Xss256K：设置参数栈内存容量为256K

在单个线程下，虚拟机栈容量设置的很小，当内存无法分配的时候，虚拟机抛出 StackOverflowError 异常

三、虚拟机的 OutOfMemoryError 异常

通过-Xss2M参数增大栈内存的容量，然后不断开启新的线程。利用第二种异常状况抛出OutOfMemoryError 异常。

blic class JVMStackOOM {

    private void dontStop() {
        while (true) {
        }
    }

    public static void main(String[] args) {
        // 不断开启新的线程消耗虚拟机栈空间
        while (true) {
            new Thread(new Runnable() {
                @Override
                public void run() {
                    dontStop();
                }
            }).start();
        }
    }
}

以上代码我尝试在VMware上的linux平台的虚拟机中运行。但是似乎VMware对此有优化，该程序可以正常运行且不会抛出异常，经过测试发现即使产生了1000多个线程依然没有抛出异常。然后尝试了在物理机的Windows平台的虚拟机上运行，然后就死机了！！！orz

由于在Windows 平台的虚拟机中，Java 的线程是映射到操作系统的内核线程上的，所以多线程代码执行时有较大的风险，可能会导致操作系统假死。
所以这个测试暂时无法实现，电脑上装有linux平台的朋友可以试一试。

四、原理

提问：为什么在第一例中设置参数时要减小栈内容量而第二例要增大内存容量呢？
答：主要是因为-Xss参数设置的是一个线程的栈大小，前面已经说过虚拟机栈是线程私有的，即每个线程都有一个自己的栈。
操作系统分配给每个进程的内存是有限制的，譬如 32 位的 Windows 限制为 2GB。虚拟机提供了参数来控制 Java 堆和方法区的这两部分内存的最大值。2GB（操作系统限制的内存大小）减去 Xmx（最大堆容量），再减去 MaxPermSize（最大方法区容量），程序计数器消耗内存很小，可以忽略掉。如果虚拟机进程本身耗费的内存不计算在内，剩下的内存就由虚拟机栈和本地方法栈“瓜分”了。
所以每个线程分配到的栈容量越大，可以建立的线程数量自然就越少，建立线程时就越容易把剩下的内存耗尽。第一例中把栈空间占满而抛出 StackOverflowError 异常，第二例中把内存消耗完而抛出 OutOfMemoryError 异常。

关于Jva堆溢出的相关测试在JVM学习笔记——jhat的使用，其中还包括对于jhat的使用。