通过jstack日志分析和问题排查

忘是亡心i 2022-05-24 08:07 258阅读 0赞

前段事件公司出现了一个严重故障（调用dubbo服务一直处于超时，整个服务系统发生雪崩，系统彻底访问不了），一开始怎么都找不到问题的根源，日志的表现形式是dubbo线程池用完了，那么具体是什么导致的没有找到，后然通过jstack日志分析才找到问题的根源，根源就是系统日志代码写有问题。通过这个故障我们来了解下如何通过jstack日志分析线上问题。首先了解下jstack

# 简介 #

jstack用于生成java虚拟机当前时刻的线程快照。线程快照是当前java虚拟机内每一条线程正在执行的方法堆栈的集合，生成线程快照的主要目的是定位线程出现长时间停顿的原因，如线程间死锁、死循环、请求外部资源导致的长时间等待等。 线程出现停顿的时候通过jstack来查看各个线程的调用堆栈，就可以知道没有响应的线程到底在后台做什么事情，或者等待什么资源。 如果java程序崩溃生成core文件，jstack工具可以用来获得core文件的java stack和native stack的信息，从而可以轻松地知道java程序是如何崩溃和在程序何处发生问题。另外，jstack工具还可以附属到正在运行的java程序中，看到当时运行的java程序的java stack和native stack的信息, 如果现在运行的java程序呈现hung的状态，jstack是非常有用的。

## 一：jstack ##

jstack命令的语法格式： jstack  <pid>。可以用jps查看java进程id。这里要注意的是：

1. 不同的 JAVA虚机的线程 DUMP的创建方法和文件格式是不一样的，不同的 JVM版本， dump信息也有差别。

2. 在实际运行中，往往一次 dump的信息，还不足以确认问题。建议产生三次 dump信息，如果每次 dump都指向同一个问题，我们才确定问题的典型性。

## 二：jstack Dump 日志文件中的线程状态 ##

### 1：dump 文件里，值得关注的线程状态有 ###

死锁， Deadlock（重点关注）

执行中，Runnable

等待资源， Waiting on condition（重点关注）

等待获取监视器， Waiting on monitor entry（重点关注）

暂停，Suspended

对象等待中，Object.wait() 或 TIMED\_WAITING

阻塞， Blocked（重点关注）

停止，Parked

### 2：Dump文件中的线程状态含义及注意事项 ###

Deadlock：死锁线程，一般指多个线程调用间，进入相互资源占用，导致一直等待无法释放的情况。

Runnable：一般指该线程正在执行状态中，该线程占用了资源，正在处理某个请求，有可能正在传递SQL到数据库执行，有可能在对某个文件操作，有可能进行数据类型等转换。

Waiting on condition：该状态出现在线程等待某个条件的发生。具体是什么原因，可以结合 stacktrace来分析。最常见的情况是线程在等待网络的读写，比如当网络数据没有准备好读时，线程处于这种等待状态，而一旦有数据准备好读之后，线程会重新激活，读取并处理数据。在 Java引入 NewIO之前，对于每个网络连接，都有一个对应的线程来处理网络的读写操作，即使没有可读写的数据，线程仍然阻塞在读写操作上，这样有可能造成资源浪费，而且给操作系统的线程调度也带来压力。在 NewIO里采用了新的机制，编写的服务器程序的性能和可扩展性都得到提高。

如果发现有大量的线程都在处在 Wait on condition，从线程 stack看， 正等待网络读写，这可能是一个网络瓶颈的征兆。因为网络阻塞导致线程无法执行。一种情况是网络非常忙，几 乎消耗了所有的带宽，仍然有大量数据等待网络读 写；另一种情况也可能是网络空闲，但由于路由等问题，导致包无法正常的到达。所以要结合系统的一些性能观察工具来综合分析，比如 netstat统计单位时间的发送包的数目，如果很明显超过了所在网络带宽的限制 ; 观察 cpu的利用率，如果系统态的 CPU时间，相对于用户态的 CPU时间比例较高；如果程序运行在 Solaris 10平台上，可以用 dtrace工具看系统调用的情况，如果观察到 read/write的系统调用的次数或者运行时间遥遥领先；这些都指向由于网络带宽所限导致的网络瓶颈。另外一种出现 Wait on condition的常见情况是该线程在 sleep，等待 sleep的时间到了时候，将被唤醒。

locked：线程阻塞，是指当前线程执行过程中，所需要的资源长时间等待却一直未能获取到，被容器的线程管理器标识为阻塞状态，可以理解为等待资源超时的线程。

Waiting for monitor entry 和 in Object.wait()：Monitor是 Java中用以实现线程之间的互斥与协作的主要手段，它可以看成是对象或者 Class的锁。每一个对象都有，也仅有一个 monitor。

## 三：各种情况演示分享 ##

分享dump日志我们需要找到一个分析工具，一直没找到好的分析工具后然我同事分享了我一个是IBM开发的工具叫

"IBM Thread and Monitor Dump Analyzer for Java" 下载地址：[https://www.ibm.com/developerworks/community/groups/service/html/communityview?communityUuid=2245aa39-fa5c-4475-b891-14c205f7333c][https_www.ibm.com_developerworks_community_groups_service_html_communityview_communityUuid_2245aa39-fa5c-4475-b891-14c205f7333c]

###     1:Deadlock（死锁） ###

演示代码

public class DiedsynchronizedTest {
            public static void main(String[] args) {
                Thread a = new ThreadRunA();
                Thread b = new ThreadRunB();
                a.start();
                b.start();
            }
        }
        class ThreadRunA extends Thread {
            public void run() {
                System.out.println("================A===================");
                synchronized (A.A) {
                    System.out.println("我要开始执行任务A。。。。" + Thread.currentThread().getName());
                    try {
                        Thread.sleep(5000);
                    } catch (InterruptedException e) {
                        e.printStackTrace();
                    }
                    synchronized (B.B) {
                    }
                    System.out.println("我在执行任务结束了A。。。。" + Thread.currentThread().getName() + ":" + B.B.hashCode() + ":"
                                       + A.A.hashCode());
                }
            }
        }
        class ThreadRunB extends Thread {
            public void run() {
                System.out.println("================B===================");
                synchronized (B.B) {
                    System.out.println("我要开始执行任务B。。。。" + Thread.currentThread().getName());
                    try {
                        Thread.sleep(1000);
                    } catch (InterruptedException e) {
                        e.printStackTrace();
                    }
                    synchronized (A.A) {
                    }
                    System.out.println("我在执行任务结束了B。。。。" + Thread.currentThread().getName() + ":" + B.B + ":" + A.A);
                }
            }
        }
        class A {
            static Integer A = new Integer(1);
        }
        class B {
            static Integer B = new Integer(1);
        }

这是个简单的死循环的代码，我们用jstack命令dump他的信息导入分析工具如图

![QQ20160825-0.jpg][]

从图上能清醒的看到Thread-1和Thread-0现实 Deadlock，而且还帮你定位到了具体的类和行数。

所以我们在系统中实用锁的时候，一定要考虑到多线程并发，避免出现交叉调用。

###     2:Runnable  ###

有时候我们发现CPU性能消耗很厉害，系统日志也看不出什么问题，那么这个时候我们要坚持运行中的线程有没有出现异常，

下面我们看下代码

public class DumpWhileDemo {
            public static void main(String[] args) {
                new Thread(new WhileThread()).start();
                System.out.println();
            }
        }
        class WhileThread implements Runnable {
            @Override
            public void run() {
                while (true) {
                    System.out.println("Thread");
                }
            }
        }

这段代码我们可以看出new一个线程，线程里面是无线循环，执行main方法后，CPU会直线上升。可以通过linux的top命令看出来。

我们jstack命令dump它的信息导入查看如下图

![QQ20160825-1.jpg][]

我们能看到线程Thread-0的Method方法列显示的是我们的自己写的类，其他两个run的的都显示NO JAVA STACK.

如果我还是怀疑Thread-0方法那么我多dump几次查看，如果依旧还是这样那么可以说明此访问有问题。

因为我们使用jstack的时候打印的是当时的状态，所以多打印几次基本能确定是否是有异常方法.不要天真的认为Runnable状态的就

没问，一切皆有可能。

###     3:Waiting on monitor entry 和 in Object.wait() ###

这个我就直接拿我们线上出的故障来和大家分享下，当时我们分析的时候吧dump日志下载到本地，然后导入到工具里面，看下图

![QQ20160829-0.jpg][]![QQ20160829-1.jpg][]

线上我们可以清楚的看到DubboServerHandler有200的线程（dubbo服务默认线程池就200，这个了解dubbo的同学都应该清楚），

我们再看右侧报错的内容backlog日志出问题了，后面我开发同学进一步分析是dubbo日志打印没有控制线程数量。

JAVA程序中，实现线程之间的同步，就要说说Monitor。Monitor是Java中用以实现线程之间的互斥与协作的主要手段，

它可以看成是对象或者 Class的锁。每一个对象都有，也仅有一个 monitor。下面这个图，描述了线程和 Monitor之间关系，以及线程的状态转换图：

![1362052421_2171.jpg][]

从图中可以看出，每个 Monitor在某个时刻，只能被一个线程拥有，该线程就是 “Active Thread”，而其它线程都是 “Waiting Thread”，分别在两个队列 “ Entry Set”和 “Wait Set”里面等候。在 “Entry Set”中等待的线程状态是 “Waiting for monitorentry”，而在 “Wait Set”中等待的线程状态是“in Object.wait()”。

###     4、 Blocked   ###

还是上面说的那个故障，这个时候线程已经阻塞了看下图，导致阻塞的原因就是就是200个默认线程一直没有释放或者，

等待进入的线程太多

![QQ20160829-2.jpg][]

总结

Java线程 DUMP的基本知识和分析的基本方法，并且解释了如何利用线程的 DUMP信息，以及结合操作系统的各种资源使用情况，

分析程序的性能问题，从而达到改进程序，提高性能的目的。

[https_www.ibm.com_developerworks_community_groups_service_html_communityview_communityUuid_2245aa39-fa5c-4475-b891-14c205f7333c]: https://www.ibm.com/developerworks/community/groups/service/html/communityview?communityUuid=2245aa39-fa5c-4475-b891-14c205f7333c
[QQ20160825-0.jpg]: /images/20220524/d761c385a3fd457bb3bc4faa05830cb4.png
[QQ20160825-1.jpg]: /images/20220524/d2ef409a7fe544d98ae53f736c8e93cf.png
[QQ20160829-0.jpg]: http://img.ccblog.cn/img/20160830/QQ20160829-0.jpg
[QQ20160829-1.jpg]: /images/20220524/2504436675994fcc83decc644c2d30ed.png
[1362052421_2171.jpg]: /images/20220524/07c038260e70471484b51ff1698f8065.png
[QQ20160829-2.jpg]: /images/20220524/8a7af97cd7a14f879c72b41bb6b00f49.png