排查 CNI 插件相关的错误

为了避免 CNI 插件相关的错误，需要验证你正在使用或升级到一个经过测试的容器运行时， 该容器运行时能够在你的 Kubernetes 版本上正常工作。

关于 “Incompatible CNI versions” 和 “Failed to destroy network for sandbox” 错误

在 containerd v1.6.0-v1.6.3 中，当配置或清除 Pod CNI 网络时，如果 CNI 插件没有升级和/或 CNI 配置文件中没有声明 CNI 配置版本时，会出现服务问题。containerd 团队报告说： “这些问题在 containerd v1.6.4 中得到了解决。”

在使用 containerd v1.6.0-v1.6.3 时，如果你不升级 CNI 插件和/或声明 CNI 配置版本， 你可能会遇到以下 “Incompatible CNI versions” 或 “Failed to destroy network for sandbox” 错误状况。

Incompatible CNI versions 错误

如果因为配置版本比插件版本新，导致你的 CNI 插件版本与配置中的插件版本无法正确匹配时， 在启动 Pod 时，containerd 日志可能会显示类似的错误信息：

  1. incompatible CNI versions; config is \"1.0.0\", plugin supports [\"0.1.0\" \"0.2.0\" \"0.3.0\" \"0.3.1\" \"0.4.0\"]"

为了解决这个问题，需要更新你的 CNI 插件和 CNI 配置文件。

Failed to destroy network for sandbox 错误

如果 CNI 插件配置中未给出插件的版本， Pod 可能可以运行。但是，停止 Pod 时会产生类似于以下错误：

  1. ERRO[2022-04-26T00:43:24.518165483Z] StopPodSandbox for "b" failed
  2. error="failed to destroy network for sandbox \"bbc85f891eaf060c5a879e27bba9b6b06450210161dfdecfbb2732959fb6500a\": invalid version \"\": the version is empty"

此错误使 Pod 处于未就绪状态，且仍然挂接到某网络名字空间上。 为修复这一问题，编辑 CNI 配置文件以添加缺失的版本信息。 下一次尝试停止 Pod 应该会成功。

更新你的 CNI 插件和 CNI 配置文件

如果你使用 containerd v1.6.0-v1.6.3 并遇到 “Incompatible CNI versions” 或者 “Failed to destroy network for sandbox” 错误，考虑更新你的 CNI 插件并编辑 CNI 配置文件。

以下是针对各节点要执行的典型步骤的概述：

  1. 安全地腾空并隔离节点。

  2. 停止容器运行时和 kubelet 服务后，执行以下升级操作：

  • 如果你正在运行 CNI 插件，请将它们升级到最新版本。
  • 如果你使用的是非 CNI 插件，请将它们替换为 CNI 插件，并使用最新版本的插件。
  • 更新插件配置文件以指定或匹配 CNI 规范支持的插件版本， 如后文“containerd 配置文件示例”章节所示。
  • 对于 containerd，请确保你已安装 CNI loopback 插件的最新版本（v1.0.0 或更高版本）。
  • 将节点组件（例如 kubelet）升级到 Kubernetes v1.24
  • 升级到或安装最新版本的容器运行时。
  1. 通过重新启动容器运行时和 kubelet 将节点重新加入到集群。取消节点隔离（kubectl uncordon <nodename>）。

containerd 配置文件示例

以下示例显示了 containerd 运行时 v1.6.x 的配置， 它支持最新版本的 CNI 规范（v1.0.0）。 请参阅你的插件和网络提供商的文档，以获取有关你系统配置的进一步说明。

在 Kubernetes 中，作为其默认行为，containerd 运行时为 Pod 添加一个本地回路接口，lo。 containerd 运行时通过 CNI 插件 loopback 配置本地回路接口。
loopback 插件作为 containerd 发布包的一部分，扮演 cni 角色。 containerd v1.6.0 及更高版本包括与 CNI v1.0.0 兼容的 loopback 插件以及其他默认 CNI 插件。 loopback 插件的配置由 containerd 内部完成， 并被设置为使用 CNI v1.0.0。 这也意味着当这个更新版本的 containerd 启动时，loopback 插件的版本必然是 v1.0.0 或更高版本。

以下 Bash 命令生成一个 CNI 配置示例。这里，cniVersion 字段被设置为配置版本值 1.0.0， 以供 containerd 调用 CNI 桥接插件时使用。

  1. cat << EOF | tee /etc/cni/net.d/10-containerd-net.conflist
  2. {
  3.  "cniVersion": "1.0.0",
  4.  "name": "containerd-net",
  5.  "plugins": [
  6.    {
  7.      "type": "bridge",
  8.      "bridge": "cni0",
  9.      "isGateway": true,
  10.      "ipMasq": true,
  11.      "promiscMode": true,
  12.      "ipam": {
  13.        "type": "host-local",
  14.        "ranges": [
  15.          [{
  16.            "subnet": "10.88.0.0/16"
  17.          }],
  18.          [{
  19.            "subnet": "2001:db8:4860::/64"
  20.          }]
  21.        ],
  22.        "routes": [
  23.          { "dst": "0.0.0.0/0" },
  24.          { "dst": "::/0" }
  25.        ]
  26.      }
  27.    },
  28.    {
  29.      "type": "portmap",
  30.      "capabilities": {"portMappings": true},
  31.      "externalSetMarkChain": "KUBE-MARK-MASQ"
  32.    }
  33.  ]
  34. }
  35. EOF

基于你的用例和网络地址规划，将前面示例中的 IP 地址范围更新为合适的值。