在我们使用 Linux 系统时,如果网络或者磁盘等 I/O 出问题,会发现进程卡住了,即使用 kill -9
也无法杀掉进程,很多常用的调试工具,比如 strace
, pstack
等也都失灵了,是怎么回事?
此时,我们使用 ps
查看进程列表,可以看到卡住的进程状态显示为 D。
man ps
中描述 D 状态是 Uninterruptible Sleep。
Linux 进程有两种睡眠状态:
- Interruptible Sleep,可中断睡眠,在 ps 命令中显示
S
。处在这种睡眠状态的进程是可以通过给它发送信号来唤醒的。 - Uninterruptible Sleep,不可中断睡眠,在 ps 命令中显示
D
。处在这种睡眠状态的进程无法立即处理任何发送给它的信号,这也是无法用kill
杀掉它的原因。
在 Stack Overflow 有一个解答:
kill -9
只是给进程发送了一个SIGKILL
信号,当一个进程处于特殊状态时(信号处理,或者系统调用中)会无法处理任何信号,包括SIGKILL
也不能被正确处理,导致进程不能被立即杀掉,也就是我们常说的 D 状态(不可中断的睡眠状态)。那些常用的调试工具 (比如strace
、pstack
等)一般也是利用某个特殊的信号来实现的,在这种状态下也是无法使用。
可见 D 状态的进程一般是处在某个内核态的系统调用中,那怎么知道是哪个系统调用,又是在等待什么呢?幸好 Linux 下提供了 procfs(就是 Linux 下的 /proc
目录,参见 Wikipedia 的解释), 通过它就可以看到任何一个进程的当前内核调用栈。下面我们用访问 JuiceFS 的进程来模拟一下(因为 JuiceFS 客户端基于 FUSE,是用户态的文件系统,比较容易模拟 I/O 故障)。
先将 JuiceFS 挂载到前台(在 ./juicefs mount
命令中加一个 -f
参数),然后用 Cltr+Z 把这个进程停掉,这时候用 ls /jfs
去访问挂载点,会发现 ls
卡住了。
通过下面的命令可以看到 ls
卡在了 vfs_fstatat
调用上,它会给 FUSE 设备发送 getattr
请求,在等待回应。而 JuiceFS 客户端进程已经被我们停掉了,所以它就卡住了:
$ cat /proc/`pgrep ls`/stack
[<ffffffff813277c7>] request_wait_answer+0x197/0x280
[<ffffffff81327d07>] __fuse_request_send+0x67/0x90
[<ffffffff81327d57>] fuse_request_send+0x27/0x30
[<ffffffff8132b0ac>] fuse_simple_request+0xcc/0x1a0
[<ffffffff8132c0f0>] fuse_do_getattr+0x120/0x330
[<ffffffff8132df28>] fuse_update_attributes+0x68/0x70
[<ffffffff8132e33d>] fuse_getattr+0x3d/0x50
[<ffffffff81220c6f>] vfs_getattr_nosec+0x2f/0x40
[<ffffffff81220ee6>] vfs_getattr+0x26/0x30
[<ffffffff81220fc8>] vfs_fstatat+0x78/0xc0
[<ffffffff8122150e>] SYSC_newstat+0x2e/0x60
[<ffffffff8122169e>] SyS_newstat+0xe/0x10
[<ffffffff8186281b>] entry_SYSCALL_64_fastpath+0x22/0xcb
[<ffffffffffffffff>] 0xffffffffffffffff
这时候按 Ctrl+C 也不能退出。
root@localhost:~# ls /jfs
^C
^C^C^C^C^C
但是用 strace
却能唤醒它,并且开始处理之前的中断信号,然后就退出了。
root@localhost:~# strace -p `pgrep ls`
strace: Process 26469 attached
--- SIGINT {si_signo=SIGINT, si_code=SI_KERNEL} ---
rt_sigreturn({mask=[]}) = -1 EINTR (Interrupted system call)
--- SIGTERM {si_signo=SIGTERM, si_code=SI_USER, si_pid=13290, si_uid=0} ---
rt_sigreturn({mask=[]}) = -1 EINTR (Interrupted system call)
。。。
tgkill(26469, 26469, SIGINT) = 0
--- SIGINT {si_signo=SIGINT, si_code=SI_TKILL, si_pid=26469, si_uid=0} ---
+++ killed by SIGINT +++
这个时候如果用 kill -9
的话,也是可以把它杀掉的:
root@localhost:~# ls /jfs
^C
^C^C^C^C^C
^C^CKilled
因为 vfs_lstatat()
这种简单的系统调用并没有 屏蔽 SIGKILL
,SIGQUIT
,SIGABRT
等信号,还可以对它做些常规的处理。
我们再来模拟一个更复杂的 I/O 错误,给 JuiceFS 配置一个无法写入的存储类型,并挂载上,用 cp
尝试往里写入数据,这时候 cp
也会卡住:
root@localhost:~# cat /proc/`pgrep cp`/stack
[<ffffffff813277c7>] request_wait_answer+0x197/0x280
[<ffffffff81327d07>] __fuse_request_send+0x67/0x90
[<ffffffff81327d57>] fuse_request_send+0x27/0x30
[<ffffffff81331b3f>] fuse_flush+0x17f/0x200
[<ffffffff81218fd2>] filp_close+0x32/0x80
[<ffffffff8123ac53>] __close_fd+0xa3/0xd0
[<ffffffff81219043>] SyS_close+0x23/0x50
[<ffffffff8186281b>] entry_SYSCALL_64_fastpath+0x22/0xcb
[<ffffffffffffffff>] 0xffffffffffffffff
怎么卡在 close_fd()
?这是因为往 JFS 写数据是异步的,当 cp
调用 write()
时,数据会先缓存在 JuiceFS 的客户端进程里同时会异步写入到后端存储,等 cp
写完数据,它会调用 close
来确保数据写入完成,对应 FUSE 的 flush
操作。JuiceFS 的客户端在遇到 flush
操作时,需要确保全部写入的数据都持久化到后端存储,而后端存储写入失败了,它就在多次重试的过程中,所以 flush
操作卡住了,还没有回复给 cp
,所以 cp
也卡住了。
这个时候如果用 Cltr+C 或者 kill
是可以中断 cp
的运行,因JuiceFS 实现了各种文件系统操作的中断处理,让它放弃当前操作(比如 flush
), 返回 EINTR
,这样在遇到各种网络故障时可以中断正在访问 JuiceFS 的应用。
这时如果我停止 JuiceFS 客户端进程,让它不能再处理任何 FUSE 请求(包括中断请求),这个时候如果尝试去杀它,就杀不掉了,包括 kill -9
也杀不掉,用 ps
查看进程状态,已经是 D 状态了。
root 1592 0.1 0.0 20612 1116 pts/3 D+ 12:45 0:00 cp parity /jfs/aaa
但这个时候是可以用 cat /proc/1592/stack
来看它的内核调用栈
root@localhost:~# cat /proc/1592/stack
[<ffffffff8132775d>] request_wait_answer+0x12d/0x280
[<ffffffff81327d07>] __fuse_request_send+0x67/0x90
[<ffffffff81327d57>] fuse_request_send+0x27/0x30
[<ffffffff81331b3f>] fuse_flush+0x17f/0x200
[<ffffffff81218fd2>] filp_close+0x32/0x80
[<ffffffff8123ac53>] __close_fd+0xa3/0xd0
[<ffffffff81219043>] SyS_close+0x23/0x50
[<ffffffff8186281b>] entry_SYSCALL_64_fastpath+0x22/0xcb
[<ffffffffffffffff>] 0xffffffffffffffff
内核调用栈显示它卡在 FUSE 的 flush
调用上,这个时候只要恢复 JuiceFS 客户端进程,就可以立即中断 cp
让它退出。
像 close
这种涉及到数据安全性的操作,不是 restartable
, 也就不能被 SIGKILL
等随意中断,比如要 FUSE 的实现端响应中断操作才能中断。
因此,只要 JuiceFS 的客户端进程能够健康的响应中断,就不用担心访问 JuiceFS 的应用卡死。或者杀掉 JuiceFS 客户端进程也可以结束当前的挂载点,中断所有在访问当前挂载点的应用。