Java 线程池(ThreadPoolExecutor)原理分析与使用

墨蓝 2022-06-10 10:42 186阅读 0赞

在我们的开发中“池”的概念并不罕见，有数据库连接池、线程池、对象池、常量池等等。下面我们主要针对线程池来一步一步揭开线程池的面纱。

使用线程池的好处

1、降低资源消耗

这里提到了线程池的饱和策略，那我们就简单介绍下有哪些饱和策略：

AbortPolicy

为Java线程池默认的阻塞策略，不执行此任务，而且直接抛出一个运行时异常，切记ThreadPoolExecutor.execute需要try catch，否则程序会直接退出。

DiscardPolicy

直接抛弃，任务不执行，空方法

DiscardOldestPolicy

从队列里面抛弃head的一个任务，并再次execute 此task。

CallerRunsPolicy

在调用execute的线程里面执行此command，会阻塞入口

用户自定义拒绝策略（最常用）

实现RejectedExecutionHandler，并自己定义策略模式

下我们以ThreadPoolExecutor为例展示下线程池的工作流程图

![9f78d0038ffa4ce28cf63f9fcda51fad_th.webp][]

![0cc9e03e291a425796bd73166c246fa5_th.webp][]

1、如果当前运行的线程少于corePoolSize，则创建新线程来执行任务（注意，执行这一步骤需要获取全局锁）。

2、如果运行的线程等于或多于corePoolSize，则将任务加入BlockingQueue。

3、如果无法将任务加入BlockingQueue（队列已满），则在非corePool中创建新的线程来处理任务（注意，执行这一步骤需要获取全局锁）。

4、如果创建新线程将使当前运行的线程超出maximumPoolSize，任务将被拒绝，并调用RejectedExecutionHandler.rejectedExecution()方法。

ThreadPoolExecutor采取上述步骤的总体设计思路，是为了在执行execute()方法时，尽可能地避免获取全局锁（那将会是一个严重的可伸缩瓶颈）。在ThreadPoolExecutor完成预热之后（当前运行的线程数大于等于corePoolSize），几乎所有的execute()方法调用都是执行步骤2，而步骤2不需要获取全局锁。

关键方法源码分析

我们看看核心方法添加到线程池方法execute的源码如下：

![fed4e0e1628b4af3aa5d1407f1e008d6_th.webp][]

![db65f99ca05645a2a070ba85297d95c6_th.webp][]

![858b6b466ab24dba88b88d26c7a95193_th.webp][]

下面我们继续看看addWorker是如何实现的：

![97e0c6a39c6a4e1daacdf0461f71d3d5_th.webp][]

![db27c1b102d04f20864eb36d9d28118e_th.webp][]

![dede1e597e3b4fdba56f56ca3e9882f8_th.webp][]

![8a0aa88a1fb54b3cacfb723937baa53a_th.webp][]

addWorker之后是runWorker,第一次启动会执行初始化传进来的任务firstTask；然后会从workQueue中取任务执行，如果队列为空则等待keepAliveTime这么长时间

![5e90130e5ca44b96bca461aa7beaf77d_th.webp][]

![20b7129b2c9248cfb077cc9e68a662eb.webp][]

我们看下getTask是如何执行的

![5f130ca2735145c2b8c9df7da9b06e66_th.webp][]

![84c3b9b8817745309ddd4edd228db845_th.webp][]

下面我们看下processWorkerExit是如何工作的

![c665e09f36944b7ea38203e64c945600_th.webp][]

tryTerminate

processWorkerExit方法中会尝试调用tryTerminate来终止线程池。这个方法在任何可能导致线程池终止的动作后执行：比如减少wokerCount或SHUTDOWN状态下从队列中移除任务。

![94461c27fbe5465a8588ac3d38fed869_th.webp][]

![5998cf1e02af40cfa9952fbb7028704b_th.webp][]

shutdown这个方法会将runState置为SHUTDOWN，会终止所有空闲的线程。shutdownNow方法将runState置为STOP。和shutdown方法的区别，这个方法会终止所有的线程。主要区别在于shutdown调用的是interruptIdleWorkers这个方法，而shutdownNow实际调用的是Worker类的interruptIfStarted方法：

他们的实现如下：

![bb21699e6b194e1a9c9dd41388ee4e43_th.webp][]

![df598b008de34fc8826f3c80dae195a1_th.webp][]

线程池的使用 线程池的创建

我们可以通过ThreadPoolExecutor来创建一个线程池

![3e3831c1c23541f986572655070347b4_th.webp][]

向线程池提交任务

可以使用两个方法向线程池提交任务，分别为execute()和submit()方法。execute()方法用于提交不需要返回值的任务，所以无法判断任务是否被线程池执行成功。通过以下代码可知execute()方法输入的任务是一个Runnable类的实例。

![ab2346be9e2e43a5904874234e58708b.webp][]

submit()方法用于提交需要返回值的任务。线程池会返回一个future类型的对象，通过这个future对象可以判断任务是否执行成功，并且可以通过future的get()方法来获取返回值，get()方法会阻塞当前线程直到任务完成，而使用get（long timeout，TimeUnit unit）方法则会阻塞当前线程一段时间后立即返回，这时候有可能任务没有执行完。

![f2ea6d5cd2f045b6aeb22ae485f34ae3_th.webp][]

关闭线程池

可以通过调用线程池的shutdown或shutdownNow方法来关闭线程池。它们的原理是遍历线程池中的工作线程，然后逐个调用线程的interrupt方法来中断线程，所以无法响应中断的任务可能永远无法终止。但是它们存在一定的区别，shutdownNow首先将线程池的状态设置成STOP，然后尝试停止所有的正在执行或暂停任务的线程，并返回等待执行任务的列表，而shutdown只是将线程池的状态设置成SHUTDOWN状态，然后中断所有没有正在执行任务的线程。

只要调用了这两个关闭方法中的任意一个，isShutdown方法就会返回true。当所有的任务都已关闭后，才表示线程池关闭成功，这时调用isTerminaed方法会返回true。至于应该调用哪一种方法来关闭线程池，应该由提交到线程池的任务特性决定，通常调用shutdown方法来关闭线程池，如果任务不一定要执行完，则可以调用shutdownNow方法。

合理的配置线程池

要想合理地配置线程池，就必须首先分析任务特性，可以从以下几个角度来分析。

1、任务的性质：CPU密集型任务、IO密集型任务和混合型任务。

2、任务的优先级：高、中和低。

3、任务的执行时间：长、中和短。

4、任务的依赖性：是否依赖其他系统资源，如数据库连接。

性质不同的任务可以用不同规模的线程池分开处理。CPU密集型任务应配置尽可能小的线程，如配置Ncpu+1个线程的线程池。由于IO密集型任务线程并不是一直在执行任务，则应配置尽可能多的线程，如2\*Ncpu。混合型的任务，如果可以拆分，将其拆分成一个CPU密集型任务和一个IO密集型任务，只要这两个任务执行的时间相差不是太大，那么分解后执行的吞吐量将高于串行执行的吞吐量。如果这两个任务执行时间相差太大，则没必要进行分解。可以通过Runtime.getRuntime().availableProcessors()方法获得当前设备的CPU个数。优先级不同的任务可以使用优先级队列PriorityBlockingQueue来处理。它可以让优先级高的任务先执行

如果一直有优先级高的任务提交到队列里，那么优先级低的任务可能永远不能执行。执行时间不同的任务可以交给不同规模的线程池来处理，或者可以使用优先级队列，让执行时间短的任务先执行。依赖数据库连接池的任务，因为线程提交SQL后需要等待数据库返回结果，等待的时间越长，则CPU空闲时间就越长，那么线程数应该设置得越大，这样才能更好地利用CPU。

建议使用有界队列。有界队列能增加系统的稳定性和预警能力，可以根据需要设大一点儿，比如几千。有时候我们系统里后台任务线程池的队列和线程池全满了，不断抛出抛弃任务的异常，通过排查发现是数据库出现了问题，导致执行SQL变得非常缓慢，因为后台任务线程池里的任务全是需要向数据库查询和插入数据的，所以导致线程池里的工作线程全部阻塞，任务积压在线程池里。如果当时我们设置成无界队列，那么线程池的队列就会越来越多，有可能会撑满内存，导致整个系统不可用，而不只是后台任务出现问题。当然，我们的系统所有的任务是用单独的服务器部署的，我们使用不同规模的线程池完成不同类型的任务，但是出现这样问题时也会影响到其他任务。

线程池的监控

如果在系统中大量使用线程池，则有必要对线程池进行监控，方便在出现问题时，可以根据线程池的使用状况快速定位问题。可以通过线程池提供的参数进行监控，在监控线程池的时候可以使用以下属性

taskCount：线程池需要执行的任务数量。

completedTaskCount：线程池在运行过程中已完成的任务数量，小于或等于taskCount。

largestPoolSize：线程池里曾经创建过的最大线程数量。通过这个数据可以知道线程池是否曾经满过。如该数值等于线程池的最大大小，则表示线程池曾经满过。

getPoolSize：线程池的线程数量。如果线程池不销毁的话，线程池里的线程不会自动销毁，所以这个大小只增不减。

getActiveCount：获取活动的线程数。

通过扩展线程池进行监控。可以通过继承线程池来自定义线程池，重写线程池的beforeExecute、afterExecute和terminated方法，也可以在任务执行前、执行后和线程池关闭前执行一些代码来进行监控。例如，监控任务的平均执行时间、最大执行时间和最小执行时间等。

[9f78d0038ffa4ce28cf63f9fcda51fad_th.webp]: /images/20220610/58b7dbcc156e4ce3a98bd4a45dee6291.png
[0cc9e03e291a425796bd73166c246fa5_th.webp]: /images/20220610/6e6c16e5ddd849dca7b03a2c1e23f303.png
[fed4e0e1628b4af3aa5d1407f1e008d6_th.webp]: /images/20220610/2c4d721ec6b44981afe70a8cefc35df9.png
[db65f99ca05645a2a070ba85297d95c6_th.webp]: /images/20220610/7e9db3ac987f4266b2b193fac129ea39.png
[858b6b466ab24dba88b88d26c7a95193_th.webp]: /images/20220610/f129ba26c5324414846ec31f83a9b83d.png
[97e0c6a39c6a4e1daacdf0461f71d3d5_th.webp]: /images/20220610/3c832139f4194c39bc4167c5b72f5444.png
[db27c1b102d04f20864eb36d9d28118e_th.webp]: /images/20220610/3b738157a4f34ffbb0fa1ddbfff4cc5e.png
[dede1e597e3b4fdba56f56ca3e9882f8_th.webp]: /images/20220610/ee42238d00bb4fbebd81ae0e15c95d36.png
[8a0aa88a1fb54b3cacfb723937baa53a_th.webp]: /images/20220610/489b4b59a23c4da5afe2b31923fe8722.png
[5e90130e5ca44b96bca461aa7beaf77d_th.webp]: /images/20220610/7372bc6657684ce99d8e628589e1cc14.png
[20b7129b2c9248cfb077cc9e68a662eb.webp]: /images/20220610/220fa796a45140b692e881df418d2a8d.png
[5f130ca2735145c2b8c9df7da9b06e66_th.webp]: /images/20220610/212179cb098a4bfeaf3a0195997fcaab.png
[84c3b9b8817745309ddd4edd228db845_th.webp]: /images/20220610/2ab6c96160f1431383e8f956ced44e09.png
[c665e09f36944b7ea38203e64c945600_th.webp]: /images/20220610/715782870c2e41c280f6d225e41d0938.png
[94461c27fbe5465a8588ac3d38fed869_th.webp]: /images/20220610/71245be7c5aa4a719511fb09fbf2a3bf.png
[5998cf1e02af40cfa9952fbb7028704b_th.webp]: /images/20220610/e46ccab2b48e4f80a7a6a38a5dab1a43.png
[bb21699e6b194e1a9c9dd41388ee4e43_th.webp]: /images/20220610/0b48d7aedbb04132a4041eb5c0646e5a.png
[df598b008de34fc8826f3c80dae195a1_th.webp]: /images/20220610/d0a8beff352b480bba68690ebc31a87c.png
[3e3831c1c23541f986572655070347b4_th.webp]: /images/20220610/8ee1abc921814e94b10b5f3a587e40c4.png
[ab2346be9e2e43a5904874234e58708b.webp]: /images/20220610/f70580e28ee74cf280f9ff5e1167c0c0.png
[f2ea6d5cd2f045b6aeb22ae485f34ae3_th.webp]: /images/20220610/b6365019eedc4680b713c51b81423a14.png