栈上替换、方法内联和代码缓存

曾经终败给现在 2022-11-04 00:55 141阅读 0赞

**目录**

OSR栈上替换

方法内联

代码缓存大小

--------------------

上一篇日志讲到使用JIT即使编译方式下代码的执行方式有解释执行和编译执行两种，对于程序中函数的执行，要么是使用解释执行的方式，要么是使用编译执行方式（对于热点代码）编译后得到的机器码执行，这两种方式的切换发生在函数的两次调用间隔，前一次调用时虚拟机没有把这段函数判定为热点代码，后一次调用时发现其是热点代码并且进行了编译，那么就会使用提供的机器码执行。对于大部分的函数执行来说是这样的，但有一些情况例外，如调用次数不多且里面有很多循环操作的函数，举个例子，main（）函数里面有一个for循环需要执行1000000次，这种情况下，由于我们的main（）只执行一次，不可能被虚拟机判定为热点代码，但是函数体内有一个循环被大量重复执行，按道理来说使用编译执行的方式效率更高，怎么办？

## OSR栈上替换 ##

解决上面的问题，虚拟机使用了一种叫OSR（on stack replacement）栈上替换技术，对于函数体内多次循环执行的情况，编译器会记录循环的次数，达到一定的次数后虚拟机就会判定这段代码为热点代码，然后对其即时编译成机器码。

![watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2p1c3RpbnplbmdUTQ_size_16_color_FFFFFF_t_70][]

编译完成之后，由于栈上替换应对的是执行此数很少的函数（如main（）函数），虚拟机需要在某一时刻检查循环体代码是否已经被编译，如果有，就把解释执行切换成编译执行，使用编译后的机器码，如上图所示，在函数入口时并不进行检查，而是在循环体的入口检查代码是否有机器码可用。判断的具体方式是通过回边计数器记录回边指令次数，回边指令就是字节码指令里向后跳转的指令，通常由循环代码产生，当回边计数器记录回边指令达到一定次数后，就会触发使用OSR栈上替换技术。

## 方法内联 ##

方法内联又是另一种提高虚拟机执行效率的优化方式，它的目的是减少一些“小方法“的调用次数来提高程序的执行效率，JIT编译器支持这种内联优化，使用-XX:+Inline参数打开，来看一个例子：

public class InLineTest {
    	static int num = 0;
    	
    	public static void add() {
    		num++;
    	}
    	
    	public static void main(String[] args) {
    		long startTime = System.currentTimeMillis();
    		
    		for(int i=0; i<1000000000; i++) {
    			add();
    		}
    		
    		long endTime = System.currentTimeMillis();
    		System.out.println("耗时:" + (endTime-startTime) + "ms");
    	}
    	
    }

类中有一个add（）函数负责对num变量进行自增操作，在main（）函数里会多次调用该自增函数，但是add（）里面做的东西其实很少，是一个“小方法 “，大量进行函数调用需要浪费的时间很多，所以对add（）进行内联后，代码循环体内就会变成：

for(int i = 0; i<1000000000; i++) \{

num++;

也就是说add（）函数里的内容被分离出来了，直接放在了循环体里面，减少了很多次的函数调用。在我的机器上测试，如果使用参数-Xcomp –server –XX:-Inline关闭方法内联的话，代码运行耗时1873毫秒，而打开方法内联的话代码耗时只需8毫秒。

![20210301102831338.PNG][]

## 代码缓存大小 ##

热点代码经过JIT即时编译成机器码后会缓存在内存中，这样下次函数调用时就可以直接从内存中拿出来使用。如果一个程序很大很大，里面有很多函数代码被判定为热点代码并编译成机器码后，把代码缓存占满，此时虚拟机并不会说抛出什么内存溢出的错误，而是继续运行程序，但是会停止使用JIT即时编译，对于后续若还有热点代码出现，虚拟机也只能以解释执行的方式执行代码，至于什么时候会清理代码缓存区域，那就要等到系统GC（garbage collection）的时候了。也就是说，一旦代码缓存空间用完了，JIT就会在整个虚拟机生命周期中停止使用，所以在大程序中想要保存更多的被编译的方法，应该扩大代码缓存空间，可以使用参数-XX:ReservedCodeCacheSize来指定大小。

[watermark_type_ZmFuZ3poZW5naGVpdGk_shadow_10_text_aHR0cHM6Ly9ibG9nLmNzZG4ubmV0L2p1c3RpbnplbmdUTQ_size_16_color_FFFFFF_t_70]: /images/20221023/66ee896645974ee4bdac485c5460ede9.png
[20210301102831338.PNG]: /images/20221023/704aba7b760e4ea082e0bcb6e6d1e6a6.png