記一次線上Java程序導致服務器CPU占用率過高的問題排除過程
阿新 • • 發佈：2018-07-19
tasks all lob jstat rip 進行 runable tails 分享圖片
https://blog.csdn.net/u013991521/article/details/52781423
1、故障現象
客服同事反饋平臺系統運行緩慢，網頁卡頓嚴重，多次重啟系統後問題依然存在，使用top命令查看服務器情況，發現CPU占用率過高。
2、CPU占用過高問題定位
2.1、定位問題進程
使用top命令查看資源占用情況，發現pid為14063的進程占用了大量的CPU資源，CPU占用率高達776.1%，內存占用率也達到了29.8%
[ylp@ylp-web-01 ~]$ top
top - 14:51:10 up 233 days, 11:40, 7 users, load average: 6.85, 5.62, 3.97
Tasks: 192 total, 2 running, 190 sleeping, 0 stopped, 0 zombie
%Cpu(s): 97.3 us, 0.3 sy, 0.0 ni, 2.5 id, 0.0 wa, 0.0 hi, 0.0 si, 0.0 st
KiB Mem : 16268652 total, 5114392 free, 6907028 used, 4247232 buff/cache
KiB Swap: 4063228 total, 3989708 free, 73520 used. 8751512 avail Mem
PID USER PR NI VIRT RES SHR S %CPU %MEM TIME+ COMMAND
14063 ylp 20 0 9260488 4.627g 11976 S 776.1 29.8 117:41.66 java - 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
2.2、定位問題線程
使用ps -mp pid -o THREAD,tid,time命令查看該進程的線程情況，發現該進程的多個線程占用率很高
[ylp@ylp-web-01 ~]$ ps -mp 14063 -o THREAD,tid,time
USER %CPU PRI SCNT WCHAN USER SYSTEM TID TIME
ylp 361 - - - - - - 02:05:58
ylp 0.0 19 - futex_ - - 14063 00:00:00
ylp 0.0 19 - poll_s - - 14064 00:00:00
ylp 44.5 19 - - - - 14065 00:15:30
ylp 44.5 19 - - - - 14066 00:15:30
ylp 44.4 19 - - - - 14067 00:15:29
ylp 44.5 19 - - - - 14068 00:15:30
ylp 44.5 19 - - - - 14069 00:15:30
ylp 44.5 19 - - - - 14070 00:15:30
ylp 44.5 19 - - - - 14071 00:15:30
ylp 44.6 19 - - - - 14072 00:15:32
ylp 2.2 19 - futex_ - - 14073 00:00:46
ylp 0.0 19 - futex_ - - 14074 00:00:00
ylp 0.0 19 - futex_ - - 14075 00:00:00
ylp 0.0 19 - futex_ - - 14076 00:00:00
ylp 0.7 19 - futex_ - - 14077 00:00:15 - 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
從輸出信息可以看出，14065~14072之間的線程CPU占用率都很高
2.3、查看問題線程堆棧
挑選TID為14065的線程，查看該線程的堆棧情況，先將線程id轉為16進制，使用printf “%x\n” tid命令進行轉換
[ylp@ylp-web-01 ~]$ printf "%x\n" 14065
36f1- 1
- 2
再使用jstack命令打印線程堆棧信息，命令格式：jstack pid |grep tid -A 30
[ylp@ylp-web-01 ~]$ jstack 14063 |grep 36f1 -A 30
"GC task thread#0 (ParallelGC)" prio=10 tid=0x00007fa35001e800 nid=0x36f1 runnable
"GC task thread#1 (ParallelGC)" prio=10 tid=0x00007fa350020800 nid=0x36f2 runnable
"GC task thread#2 (ParallelGC)" prio=10 tid=0x00007fa350022800 nid=0x36f3 runnable
"GC task thread#3 (ParallelGC)" prio=10 tid=0x00007fa350024000 nid=0x36f4 runnable
"GC task thread#4 (ParallelGC)" prio=10 tid=0x00007fa350026000 nid=0x36f5 runnable
"GC task thread#5 (ParallelGC)" prio=10 tid=0x00007fa350028000 nid=0x36f6 runnable
"GC task thread#6 (ParallelGC)" prio=10 tid=0x00007fa350029800 nid=0x36f7 runnable
"GC task thread#7 (ParallelGC)" prio=10 tid=0x00007fa35002b800 nid=0x36f8 runnable
"VM Periodic Task Thread" prio=10 tid=0x00007fa3500a8800 nid=0x3700 waiting on condition
JNI global references: 392 - 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
從輸出信息可以看出，此線程是JVM的gc線程。此時可以基本確定是內存不足或內存泄露導致gc線程持續運行，導致CPU占用過高。
所以接下來我們要找的內存方面的問題
3、內存問題定位
3.1、使用jstat -gcutil命令查看進程的內存情況
[ylp@ylp-web-01 ~]$ jstat -gcutil 14063 2000 10
S0 S1 E O P YGC YGCT FGC FGCT GCT
0.00 0.00 100.00 99.99 26.31 42 21.917 218 1484.830 1506.747
0.00 0.00 100.00 99.99 26.31 42 21.917 218 1484.830 1506.747
0.00 0.00 100.00 99.99 26.31 42 21.917 219 1496.567 1518.484
0.00 0.00 100.00 99.99 26.31 42 21.917 219 1496.567 1518.484
0.00 0.00 100.00 99.99 26.31 42 21.917 219 1496.567 1518.484
0.00 0.00 100.00 99.99 26.31 42 21.917 219 1496.567 1518.484
0.00 0.00 100.00 99.99 26.31 42 21.917 219 1496.567 1518.484
0.00 0.00 100.00 99.99 26.31 42 21.917 220 1505.439 1527.355
0.00 0.00 100.00 99.99 26.31 42 21.917 220 1505.439 1527.355
0.00 0.00 100.00 99.99 26.31 42 21.917 220 1505.439 1527.355
```
從輸出信息可以看出，Eden區內存占用100%，Old區內存占用99.99%，Full GC的次數高達220次，並且頻繁Full GC，Full GC的持續時間也特別長，平均每次Full GC耗時6.8秒（1505.439/220）。根據這些信息，基本可以確定是程序代碼上出現了問題，可能存在不合理創建對象的地方
####3.2、分析堆棧
使用jstat命令查看進程的堆棧情況
- 1
- 2
- 3
- 4
- 5
- 6
- 7
- 8
- 9
- 10
- 11
- 12
- 13
- 14
- 15
- 16
- 17
- 18
- 19
[ylp@ylp-web-01 ~]$ jstat 14063 >>jstat.out
“`
把jstat.out文件從服務器拿到本地後，用編輯器查找帶有項目目錄並且線程狀態是RUNABLE的相關信息，從圖中可以看出ActivityUtil.java類的447行正在使用HashMap.put()方法
3.3、代碼定位
打開項目工程，找到ActivityUtil類的477行，代碼如下： 
找到相關同事了解後，這段代碼會從數據庫中獲取配置，並根據數據庫中remain的值進行循環，在循環中會一直對HashMap進行put操作。
查詢數據庫中的配置，發現remain的數量巨大
至此，問題定位完畢。
記一次線上Java程序導致服務器CPU占用率過高的問題排除過程