Kubernetes故障排查指南-分析容器退出状态码

问题

大家在使用 Kubernetes 时，会遇到创建Pod失败，这时会分析什么原因导致创建Pod失败？

Pod status 状态解释 [1]

• CrashLoopBackOff：容器退出，kubelet正在将它重启

• InvalidImageName：无法解析镜像名称

• ImageInspectError：无法校验镜像

• ErrImageNeverPull：策略禁止拉取镜像

• ImagePullBackOff：镜像正在重试拉取

• RegistryUnavailable：连接不到镜像中心

• ErrImagePull：通用的拉取镜像出错

• CreateContainerConfigError：不能创建kubelet使用的容器配置

• CreateContainerError：创建容器失败

• m.internalLifecycle.PreStartContainer：执行hook报错

• RunContainerError：启动容器失败

• PostStartHookError：执行hook报错

• ContainersNotInitialized：容器没有初始化完毕

• ContainersNotReady：容器没有准备完毕

• ContainerCreating：容器创建中

• PodInitializing：pod 初始化中

• DockerDaemonNotReady：docker还没有完全启动

• NetworkPluginNotReady：网络插件还没有完全启动

容器 Exit Code

容器退出状态码的区间 [2]

• 必须在 0-255 之间

• 0 表示正常退出

• 外界中断将程序退出的时候状态码区间在 129-255，(操作系统给程序发送中断信号，比如 kill -9 是 SIGKILL，ctrl+c 是 SIGINT)

• 一般程序自身原因导致的异常退出状态区间在 1-128 (这只是一般约定，程序如果一定要用129-255的状态码也是可以的)

注意：有时我们会看到代码中有 exit(-1)，这时会自动做一个转换，最终输出的结果还是会在 0-255 之间。

转换公式如下，code 表现退出的状态码：

当指定的退出时状态码为负数，转换公式如下：

256 - (|code| % 256)

当指定的退出时状态码为正数，转换公式如下：

code % 256

下面是异常状态码区间表，具体信息可以参考链接 http://tldp.org/LDP/abs/html/exitcodes.html

查看 Pod 退出状态码

$ kubectl describe pods ${pod-name}

下面 Pod 退出状态码是为0，说明容器是正常退出的。

常见的容器退出状态码解释 [3]

Exit Code 0

• 退出代码0表示特定容器没有附加前台进程

• 该退出代码是所有其他后续退出代码的例外

• 这不一定意味着发生了不好的事情。如果开发人员想要在容器完成其工作后自动停止其容器，则使用此退出代码。比如：kubernetes job 在执行完任务后正常退出码为 0

Exit Code 1

• 程序错误，或者Dockerfile中引用不存在的文件，如 entrypoint中引用了错误的包

• 程序错误可以很简单，例如 “除以0”，也可以很复杂，比如空引用或者其他程序 crash

Exit Code 137

• 表明容器收到了 SIGKILL 信号，进程被杀掉，对应kill -9

• 引发SIGKILL的是docker kill。这可以由用户或由docker守护程序来发起，手动执行：docker kill

• 137 比较常见，如果 pod 中的limit 资源设置较小，会运行内存不足导致 OOMKilled，此时state 中的 ”OOMKilled” 值为true，你可以在系统的 dmesg -T 中看到 oom 日志

Exit Code 139

• 表明容器收到了 SIGSEGV 信号，无效的内存引用，对应kill -11

• 一般是代码有问题，或者 docker 的基础镜像有问题

Exit Code 143

• 表明容器收到了 SIGTERM 信号，终端关闭，对应kill -15

• 一般对应 docker stop 命令

• 有时docker stop也会导致Exit Code 137。发生在与代码无法处理 SIGTERM 的情况下，docker进程等待十秒钟然后发出 SIGKILL 强制退出。

不常用的一些 Exit Code

• Exit Code 126: 权限问题或命令不可执行

• Exit Code 127: Shell脚本中可能出现错字且字符无法识别的情况

• Exit Code 1 或 255：因为很多程序员写异常退出时习惯用 exit(1) 或 exit(-1)，-1 会根据转换规则转成 255。这个一般是自定义 code，要看具体逻辑。

小结

在排查Pod为什么创建失败时，首先看 Pod 容器退出状态码是非常有用的，能快速的定位问题原因。

参考链接

• [1]https://blog.51cto.com/shunzi115/2449411

• [2]https://imroc.io/posts/kubernetes/analysis-exitcode/

• [3]http://www.xuyasong.com/?p=1802

热门文章推荐

• Kubeconfig文件自动合并-实现K8S多集群切换

• 比Kubernetes Dashboard更好用的K8S管理工具 Kuboard

• 生产环境中helm v2升级v3版本遇到的疑难杂症

• 微软出品 - Kubernetes 学习指南

• Calico 介绍、原理与使用

• 白话 kubernetes 网络组件 Flannel
  

最后

• 欢迎您加我微信【ypxiaozhan01】，拉您进技术群，一起交流学习...

• 欢迎您关注【YP小站】，学习互联网最流行的技术，做个专业的技术人...

---

  【文章让您有收获，点个 在看 支持我吧】