添加边缘节点

KubeSphere 利用 KubeEdge 将原生容器化应用程序编排功能扩展到边缘的主机。KubeEdge 拥有单独的云端和边端核心模块，提供完整的边缘计算解决方案，但安装过程可能较为繁琐。

kubeedge_arch

备注

有关 KubeEdge 不同组件的更多信息，请参见 KubeEdge 文档。

边缘节点加入集群后，原生 KubeEdge 云组件要求手动配置 iptables，以便您使用 kubectl logs 和 kubectl exec 等命令。对此，KubeSphere 能够提供一种高效便捷的方法将边缘节点添加到 Kubernetes 集群。它使用所支持的组件来自动配置 iptables（例如，EdgeWatcher）。

edge-watcher

本教程演示如何将边缘节点添加到集群。

准备工作

  • 您需要启用 KubeEdge。
  • 您有一个可用节点作为边缘节点，该节点可以运行 Ubuntu（建议）或 CentOS。本教程以 Ubuntu 18.04 为例。
  • 与 Kubernetes 集群节点不同，边缘节点应部署在单独的网络中。

配置边缘节点

您需要在边缘节点上安装容器运行时并配置 EdgeMesh。

安装容器运行时

KubeEdge 支持多种容器运行时，包括 Docker、containerd、CRI-O 和 Virtlet。有关更多信息，请参见 KubeEdge 文档。

备注

如果您的边缘节点使用 Docker 作为容器运行时，为确保 KubeSphere 可以获取 Pod 指标，请务必在边缘节点上安装 Docker v19.3.0 或更高版本。

配置 EdgeMesh

执行以下步骤以在边缘节点上配置 EdgeMesh。

  1. 编辑 /etc/nsswitch.conf。

    1. vi /etc/nsswitch.conf

  2. 在该文件中添加以下内容。

    1. hosts:          dns files mdns4_minimal [NOTFOUND=return]

  3. 保存文件并运行以下命令启用 IP 转发：

    1. sudo echo "net.ipv4.ip_forward = 1" >> /etc/sysctl.conf

  4. 验证修改：

    1. sudo sysctl -p | grep ip_forward

    预期结果：

    1. net.ipv4.ip_forward = 1

创建防火墙规则和端口转发规则

若要确保边缘节点可以成功地与集群通信，您必须转发端口，以便外部流量进入您的网络。您可以根据下表将外网端口映射到相应的内网 IP 地址（主节点）和端口。此外，您还需要创建防火墙规则以允许流量进入这些端口（10000 至 10004）。

字段外网端口字段内网端口
cloudhubPort10000cloudhubNodePort30000
cloudhubQuicPort10001cloudhubQuicNodePort30001
cloudhubHttpsPort10002cloudhubHttpsNodePort30002
cloudstreamPort10003cloudstreamNodePort30003
tunnelPort10004tunnelNodePort30004

添加边缘节点

  1. 使用 admin 用户登录控制台，点击左上角的平台管理。

  2. 选择集群管理，然后导航至节点下的边缘节点。

    备注

    如果已经启用多集群管理，则需要首先选择一个集群。

  3. 点击添加。在出现的对话框中，设置边缘节点的节点名称并输入其内网 IP 地址。点击验证以继续。

    备注

    • 内网 IP 地址仅用于节点间通信，您不一定要使用边缘节点的真实内网 IP 地址。只要 IP 地址验证成功，您就可以使用该 IP 地址。
    • 建议您勾选方框添加默认污点。

  4. 复制边缘节点配置命令下自动创建的命令，并在您的边缘节点上运行该命令。

    备注

    在运行该命令前，请确保您的边缘节点上已安装 wget。

  5. 关闭对话框，刷新页面，您将看到边缘节点显示在列表中。

    备注

    添加边缘节点后，如果在边缘节点页面查看不到 CPU 和内存资源使用情况，请确保您的集群中已安装 Metrics Server 0.4.1 或以上版本。

  6. 边缘节点加入集群后，部分 Pod 在调度至该边缘节点上后可能会一直处于 Pending 状态。由于部分守护进程集（例如，Calico）有强容忍度，在当前版本中 (KubeSphere 3.2.0)，您需要手动 Patch Pod 以防止它们调度至该边缘节点。

    ```

    !/bin/bash

    NodeSelectorPatchJson=’{“spec”:{“template”:{“spec”:{“nodeSelector”:{“node-role.kubernetes.io/master”: “”,”node-role.kubernetes.io/worker”: “”}}}}}’

    NoShedulePatchJson=’{“spec”:{“template”:{“spec”:{“affinity”:{“nodeAffinity”:{“requiredDuringSchedulingIgnoredDuringExecution”:{“nodeSelectorTerms”:[{“matchExpressions”:[{“key”:”node-role.kubernetes.io/edge”,”operator”:”DoesNotExist”}]}]}}}}}}}’

    edgenode=”edgenode” if [ $1 ]; then

    1.     edgenode="$1"

    fi

  1. namespaces=($(kubectl get pods -A -o wide |egrep -i $edgenode | awk '{print $1}' ))
  2. pods=($(kubectl get pods -A -o wide |egrep -i $edgenode | awk '{print $2}' ))
  3. length=${#namespaces[@]}
  6. for((i=0;i<$length;i++));  
  7. do
  8.         ns=${namespaces[$i]}
  9.         pod=${pods[$i]}
  10.         resources=$(kubectl -n $ns describe pod $pod | grep "Controlled By" |awk '{print $3}')
  11.         echo "Patching for ns:"${namespaces[$i]}",resources:"$resources
  12.         kubectl -n $ns patch $resources --type merge --patch "$NoShedulePatchJson"
  13.         sleep 1
  14. done
  15. ```

自定义配置

若要对边缘节点的部分配置（例如下载 URL 和 KubeEdge 版本）自定义，您可以如下创建一个 ConfigMap：

  1. apiVersion: v1
  2. data:
  3.   region: zh # 下载区域。
  4.   version: v1.6.1 # KubeEdge 的安装版本。可用的值包括 v1.5.0、v1.6.0、v1.6.1（默认）和 v1.6.2。
  5. kind: ConfigMap
  6. metadata:
  7.   name: edge-watcher-config
  8.   namespace: kubeedge

备注

  • 对于 region 字段，您可以指定 zh 或 en。默认值为 zh，默认下载链接为 https://kubeedge.pek3b.qingstor.com/bin/v1.6.1/$arch/keadm-v1.6.1-linux-$arch.tar.gz。若将 region 设置为 en，下载链接将变为 https://github.com/kubesphere/kubeedge/releases/download/v1.6.1-kubesphere/keadm-v1.6.1-linux-amd64.tar.gz。
  • 该 ConfigMap 不会影响您集群中现有边缘节点的配置，仅用于修改新添加的边缘节点的配置。确切地说，该 ConfigMap 会决定上文中由 KubeSphere 自动生成的命令，即您之后在边缘节点上需要运行的命令。
  • 虽然您可以变更在边缘节点上安装的 KubeEdge 版本，建议您的云端和边端组件使用相同的 KubeEdge 版本。

移除边缘节点

移除边缘节点之前，请删除在该节点上运行的全部工作负载。

  1. 在边缘节点上运行以下命令：

    1. ./keadm reset
    1. apt remove mosquitto
    1. rm -rf /var/lib/kubeedge /var/lib/edged /etc/kubeedge/ca /etc/kubeedge/certs

    备注

    如果无法删除 tmpfs 挂载的文件夹，请重启节点或先取消挂载该文件夹。

  2. 运行以下命令从集群中移除边缘节点：

    1. kubectl delete node <edgenode-name>

  3. 如需从集群中卸载 KubeEdge，运行以下命令：

    1. helm uninstall kubeedge -n kubeedge
    1. kubectl delete ns kubeedge

    备注

    卸载完成后，您将无法为集群添加边缘节点。