面试官：线程池大小 + 线程数量到底设置多少？

秒速五厘米 2022-10-15 15:51 206阅读 0赞

![0D5F937FE12312312D81F17F.jpg][]

程序员的成长之路

互联网/程序员/技术/资料共享

[关注][Link 1]

阅读本文大概需要 7 分钟。

可能很多人都看到过一个线程数设置的理论：

*  CPU 密集型的程序 - 核心数 + 1
 *  I/O 密集型的程序 - 核心数 \* 2

不会吧，不会吧，真的有人按照这个理论规划线程数？

### 线程数和CPU利用率的小测试 ###

抛开一些操作系统，计算机原理不谈，说一个基本的理论（不用纠结是否严谨，只为好理解）：一个CPU核心，单位时间内只能执行一个线程的指令 \*\* 那么理论上，我一个线程只需要不停的执行指令，就可以跑满一个核心的利用率。

来写个死循环空跑的例子验证一下：

测试环境：AMD Ryzen 5 3600, 6 - Core, 12 - Threads

public class CPUUtilizationTest {
        public static void main(String[] args) {
            //死循环，什么都不做
            while (true){
            }
        }
    }

运行这个例子后，来看看现在CPU的利用率：

![bae904f9e327af0a70e48a7adfbb45b8.png][]

从图上可以看到，我的3号核心利用率已经被跑满了

那基于上面的理论，我多开几个线程试试呢？

public class CPUUtilizationTest {
     public static void main(String[] args) {
    
      for (int j = 0; j < 6; j++) {
       new Thread(new Runnable() {
        @Override
        public void run() {
         while (true){
         }
        }
       }).start();
      }
     }
    }

此时再看CPU利用率，1/2/5/7/9/11 几个核心的利用率已经被跑满：

![4017bfd98b1c12da92e5642f362243cc.png][]

那如果开12个线程呢，是不是会把所有核心的利用率都跑满？答案一定是会的：

![0c8a7b706a9cb999e723a9669126d04d.png][]

如果此时我把上面例子的线程数继续增加到24个线程，会出现什么结果呢？

![5b82ae49bdfa2baad0ee4459b0134c03.png][]

从上图可以看到，CPU利用率和上一步一样，还是所有核心100%，不过此时负载已经从11.x增加到了22.x（load average解释参考scoutapm.com/blog/unders…），说明此时CPU更繁忙，线程的任务无法及时执行。

现代CPU基本都是多核心的，比如我这里测试用的AMD 3600，6核心12线程（超线程），我们可以简单的认为它就是12核心CPU。那么我这个CPU就可以同时做12件事，互不打扰。

如果要执行的线程大于核心数，那么就需要通过操作系统的调度了。操作系统给每个线程分配CPU时间片资源，然后不停的切换，从而实现“并行”执行的效果。

但是这样真的更快吗？从上面的例子可以看出，一个线程 就可以把一个核心 的利用率跑满。如果每个线程都很“霸道”，不停的执行指令，不给CPU空闲的时间，并且同时执行的线程数大于CPU的核心数，就会导致操作系统更频繁的执行切换线程执行 ，以确保每个线程都可以得到执行。

不过切换是有代价的，每次切换会伴随着寄存器数据更新，内存页表更新等操作 。虽然一次切换的代价和I/O操作比起来微不足道，但如果线程过多，线程切换的过于频繁，甚至在单位时间内切换的耗时已经大于程序执行的时间，就会导致CPU资源过多的浪费在上下文切换上，而不是在执行程序，得不偿失。

上面死循环空跑的例子，有点过于极端了，正常情况下不太可能有这种程序。

大多程序在运行时都会有一些 I/O操作，可能是读写文件，网络收发报文等，这些 I/O 操作在进行时时需要等待反馈的。比如网络读写时，需要等待报文发送或者接收到，在这个等待过程中，线程是等待状态，CPU没有工作。此时操作系统就会调度CPU去执行其他线程的指令，这样就完美利用了CPU这段空闲期，提高了CPU的利用率。

上面的例子中，程序不停的循环什么都不做，CPU要不停的执行指令，几乎没有啥空闲的时间。如果插入一段I/O操作呢，I/O 操作期间 CPU是空闲状态，CPU的利用率会怎么样呢？先看看单线程下的结果：

public class CPUUtilizationTest { public static void main(String[] args) throws InterruptedException {  for (int n = 0; n < 1; n++) {   new Thread(new Runnable() {    @Override    public void run() {     while (true){                        //每次空循环 1亿 次后，sleep 50ms，模拟 I/O等待、切换      for (int i = 0; i < 100_000_000l; i++) {      }      try {       Thread.sleep(50);      }      catch (InterruptedException e) {       e.printStackTrace();      }     }    }   }).start();  } }}

![ec98f64230c29aaab0b1fa5f83bfd878.png][]

哇，唯一有利用率的9号核心，利用率也才50%，和前面没有sleep的100%相比，已经低了一半了。现在把线程数调整到12个看看：

![8d12f8f53858ed33763da83e580782a5.png][]

单个核心的利用率60左右，和刚才的单线程结果差距不大，还没有把CPU利用率跑满，现在将线程数增加到18：

![f5e76b7c0d67fb14245c3ca11e636f6d.png][]

此时单核心利用率，已经接近100%了。由此可见，当线程中有 I/O 等操作不占用CPU资源时，操作系统可以调度CPU可以同时执行更多的线程。

现在将I/O事件的频率调高看看呢，把循环次数减到一半，50\_000\_000，同样是18个线程：

![7dadf77813c39e9de979a74add2085a8.png][]

此时每个核心的利用率，大概只有70%左右了。

### 线程数和CPU利用率的小总结 ###

上面的例子，只是辅助，为了更好的理解线程数/程序行为/CPU状态的关系，来简单总结一下：

1.  一个极端的线程（不停执行“计算”型操作时），就可以把单个核心的利用率跑满，多核心CPU最多只能同时执行等于核心数的“极端”线程数
2.  如果每个线程都这么“极端”，且同时执行的线程数超过核心数，会导致不必要的切换，造成负载过高，只会让执行更慢
3.  I/O 等暂停类操作时，CPU处于空闲状态，操作系统调度CPU执行其他线程，可以提高CPU利用率，同时执行更多的线程
4.  I/O 事件的频率频率越高，或者等待/暂停时间越长，CPU的空闲时间也就更长，利用率越低，操作系统可以调度CPU执行更多的线程

### 线程数规划的公式 ###

前面的铺垫，都是为了帮助理解，现在来看看书本上的定义。《Java 并发编程实战》介绍了一个线程数计算的公式：

![0ad1205c9b59b81b96e4c86e53dd4247.png][]

如果希望程序跑到CPU的目标利用率，需要的线程数公式为：

![47dfb4999ab9bc06f51e9bebddc9f9a8.png][]

公式很清晰，现在来带入上面的例子试试看：

如果我期望目标利用率为90%（多核90），那么需要的线程数为：

![9e7878fec87a92c3d5b7d279c2787ee7.png][]

现在把线程数调到22，看看结果：

![b28fbd4ed75223882ceb6bee72ed752a.png][]

现在CPU利用率大概80+，和预期比较接近了，由于线程数过多，还有些上下文切换的开销，再加上测试用例不够严谨，所以实际利用率低一些也正常。

把公式变个形，还可以通过线程数来计算CPU利用率：

![aed02566b61056f18f2f770bba8af644.png][]

虽然公式很好，但在真实的程序中，一般很难获得准确的等待时间和计算时间，因为程序很复杂，不只是“计算” 。一段代码中会有很多的内存读写，计算，I/O 等复合操作，精确的获取这两个指标很难，所以光靠公式计算线程数过于理想化。

### 真实程序中的线程数 ###

那么在实际的程序中，或者说一些Java的业务系统中，线程数（线程池大小）规划多少合适呢？

先说结论：没有固定答案，先设定预期，比如我期望的CPU利用率在多少，负载在多少，GC频率多少之类的指标后，再通过测试不断的调整到一个合理的线程数

比如一个普通的，SpringBoot 为基础的业务系统，默认Tomcat容器+HikariCP连接池+G1回收器，如果此时项目中也需要一个业务场景的多线程（或者线程池）来异步/并行执行业务流程。

此时我按照上面的公式来规划线程数的话，误差一定会很大。因为此时这台主机上，已经有很多运行中的线程了，Tomcat有自己的线程池，HikariCP也有自己的后台线程，JVM也有一些编译的线程，连G1都有自己的后台线程。这些线程也是运行在当前进程、当前主机上的，也会占用CPU的资源。

所以受环境干扰下，单靠公式很难准确的规划线程数，一定要通过测试来验证。

流程一般是这样：

1.  分析当前主机上，有没有其他进程干扰
2.  分析当前JVM进程上，有没有其他运行中或可能运行的线程
3.  设定目标
4.  1.  目标CPU利用率 - 我最高能容忍我的CPU飙到多少？
    2.  目标GC频率/暂停时间 - 多线程执行后，GC频率会增高，最大能容忍到什么频率，每次暂停时间多少？
    3.  执行效率 - 比如批处理时，我单位时间内要开多少线程才能及时处理完毕
    4.  ……
5.  梳理链路关键点，是否有卡脖子的点，因为如果线程数过多，链路上某些节点资源有限可能会导致大量的线程在等待资源（比如三方接口限流，连接池数量有限，中间件压力过大无法支撑等）
6.  不断的增加/减少线程数来测试，按最高的要求去测试，最终获得一个“满足要求”的线程数\*\*

而且而且而且！不同场景下的线程数理念也有所不同：

1.  Tomcat中的maxThreads，在Blocking I/O和No-Blocking I/O下就不一样
2.  Dubbo 默认还是单连接呢，也有I/O线程（池）和业务线程（池）的区分，I/O线程一般不是瓶颈，所以不必太多，但业务线程很容易称为瓶颈
3.  Redis 6.0以后也是多线程了，不过它只是I/O 多线程，“业务”处理还是单线程

所以，不要纠结设置多少线程了。没有标准答案，一定要结合场景，带着目标，通过测试去找到一个最合适的线程数。

可能还有同学可能会有疑问：“我们系统也没啥压力，不需要那么合适的线程数，只是一个简单的异步场景，不影响系统其他功能就可以”

很正常，很多的内部业务系统，并不需要啥性能，稳定好用符合需求就可以了，那么我的推荐的线程数是：CPU核心数

### 附录 ###

#### Java 获取CPU核心数 ####

Runtime.getRuntime().availableProcessors()//获取逻辑核心数，如6核心12线程，那么返回的是12

#### Linux 获取CPU核心数 ####

<END>

**推荐阅读：**

[历史上第一个网页长这样][Link 2]

[Java性能优化的50个细节（珍藏版）][Java_50]

**5T技术资源大放送！包括但不限于：C/C++，Linux，Python，Java，PHP，人工智能，单片机，树莓派，等等。在公众号内回复「2048」，即可免费获取！！**

![d7c47ddcaa625c80feee3187195b8ea6.png][]

微信扫描二维码，关注我的公众号

朕已阅 ![f534befff8c72aad07033b1941d6925d.gif][]

[0D5F937FE12312312D81F17F.jpg]: /images/20221014/19c72ddb1ffa46408d1b5ca6340efd37.png
[Link 1]: https://mp.weixin.qq.com/s?__biz=MzUyNDkzNzczNQ%3D%3D&chksm=fa24f0bacd5379ac93d74ffebac826d2401fd494f82e900e5102a8bf968f108e4ec72a4ad548&idx=3&lang=zh_CN&mid=2247487442&scene=21&sn=61e758d4bf9f15a3419fd028146469a3&token=1854383306#wechat_redirect
[bae904f9e327af0a70e48a7adfbb45b8.png]: /images/20221014/a1fd6c472dbb4700a2bc1a44593813cf.png
[4017bfd98b1c12da92e5642f362243cc.png]: /images/20221014/93c51208df814a59841be464e72ca8f6.png
[0c8a7b706a9cb999e723a9669126d04d.png]: /images/20221014/8a9b26cd1b6f40cc9f6fd577ca8ff3a8.png
[5b82ae49bdfa2baad0ee4459b0134c03.png]: /images/20221014/f636c1d645e24b989d6afc45c68f6691.png
[ec98f64230c29aaab0b1fa5f83bfd878.png]: /images/20221014/99b9ede0b30f4441b0dfc000c1152b2e.png
[8d12f8f53858ed33763da83e580782a5.png]: /images/20221014/d02586c55ef44a6d8188817786e4ebb4.png
[f5e76b7c0d67fb14245c3ca11e636f6d.png]: /images/20221014/fd95117790424e369697d5f88cb7bcf6.png
[7dadf77813c39e9de979a74add2085a8.png]: /images/20221014/73a7b9925acb4e69be7922556c054cbc.png
[0ad1205c9b59b81b96e4c86e53dd4247.png]: /images/20221014/87d8a86fd1344d64bc220de1bfb3bb92.png
[47dfb4999ab9bc06f51e9bebddc9f9a8.png]: /images/20221014/452efa1a4c3b47f7b3e3c3be1514f4c0.png
[9e7878fec87a92c3d5b7d279c2787ee7.png]: /images/20221014/757c0a574e5c4a69816b5106817dcb7d.png
[b28fbd4ed75223882ceb6bee72ed752a.png]: /images/20221014/713eff860c2241cba95f9a1e5b78ddc4.png
[aed02566b61056f18f2f770bba8af644.png]: /images/20221014/ddc867325cb245de98f12582fb69fd6b.png
[Link 2]: http://mp.weixin.qq.com/s?__biz=MzUyNDkzNzczNQ%3D%3D&chksm=fa272123cd50a83588add3d1d7f340ac5ecacee8ee77f8300351e0d6d195f83ce8c5d4fdc505&idx=1&mid=2247507531&scene=21&sn=c1e76533a1e2772fa807c2e73b418585#wechat_redirect
[Java_50]: http://mp.weixin.qq.com/s?__biz=MzUyNDkzNzczNQ%3D%3D&chksm=fa272123cd50a83564836babb8c9f8791bc85a31f9dd4f8458fdbf5c71a3da6e279b9ee5de31&idx=2&mid=2247507531&scene=21&sn=0eeca8c92034cba6eee0a4ebe46fee32#wechat_redirect
[d7c47ddcaa625c80feee3187195b8ea6.png]: /images/20221014/84711b0b30b6454a9a16441451f3e062.png
[f534befff8c72aad07033b1941d6925d.gif]: /images/20221014/ec9f789286d64542b3c3d6389bea2d8b.png