添加边缘节点
KubeSphere 利用 KubeEdge 将原生容器化应用程序编排功能扩展到边缘的主机。KubeEdge 拥有单独的云端和边端核心模块,提供完整的边缘计算解决方案,但安装过程可能较为繁琐。
备注
有关 KubeEdge 不同组件的更多信息,请参见 KubeEdge 文档。
本教程演示如何将边缘节点添加到集群。
准备工作
- 您需要启用 KubeEdge。
- 为了避免兼容性问题,建议安装 v1.21.x 及以下版本的 Kubernetes。
- 您有一个可用节点作为边缘节点,该节点可以运行 Ubuntu(建议)或 CentOS。本教程以 Ubuntu 18.04 为例。
- 与 Kubernetes 集群节点不同,边缘节点应部署在单独的网络中。
防止非边缘工作负载调度到边缘节点
由于部分守护进程集(例如,Calico)有强容忍度,为了避免影响边缘节点的正常工作,您需要手动 Patch Pod 以防止非边缘工作负载调度至边缘节点。
#!/bin/bash
NoShedulePatchJson='{"spec":{"template":{"spec":{"affinity":{"nodeAffinity":{"requiredDuringSchedulingIgnoredDuringExecution":{"nodeSelectorTerms":[{"matchExpressions":[{"key":"node-role.kubernetes.io/edge","operator":"DoesNotExist"}]}]}}}}}}}'
ns="kube-system"
DaemonSets=("nodelocaldns" "kube-proxy" "calico-node")
length=${#DaemonSets[@]}
for((i=0;i<length;i++));
do
ds=${DaemonSets[$i]}
echo "Patching resources:DaemonSet/${ds}" in ns:"$ns",
kubectl -n $ns patch DaemonSet/${ds} --type merge --patch "$NoShedulePatchJson"
sleep 1
done
创建防火墙规则和端口转发规则
若要确保边缘节点可以成功地与集群通信,您必须转发端口,以便外部流量进入您的网络。您可以根据下表将外网端口映射到相应的内网 IP 地址(主节点)和端口。此外,您还需要创建防火墙规则以允许流量进入这些端口(10000
至 10004
)。
备注
在 ks-installer 的 ClusterConfiguration
中,如果您设置的是局域网地址,那么需要配置转发规则。如果您未配置转发规则,直接连接 30000 – 30004 端口即可。
字段 | 外网端口 | 字段 | 内网端口 |
---|---|---|---|
cloudhubPort | 10000 | cloudhubNodePort | 30000 |
cloudhubQuicPort | 10001 | cloudhubQuicNodePort | 30001 |
cloudhubHttpsPort | 10002 | cloudhubHttpsNodePort | 30002 |
cloudstreamPort | 10003 | cloudstreamNodePort | 30003 |
tunnelPort | 10004 | tunnelNodePort | 30004 |
配置边缘节点
您需要在边缘节点上安装容器运行时并配置 EdgeMesh。
安装容器运行时
KubeEdge 支持多种容器运行时,包括 Docker、containerd、CRI-O 和 Virtlet。有关更多信息,请参见 KubeEdge 文档。
备注
如果您的边缘节点使用 Docker 作为容器运行时,为确保 KubeSphere 可以获取 Pod 指标,请务必在边缘节点上安装 Docker v19.3.0 或更高版本。
配置 EdgeMesh
执行以下步骤以在边缘节点上配置 EdgeMesh。
编辑
/etc/nsswitch.conf
。vi /etc/nsswitch.conf
在该文件中添加以下内容。
hosts: dns files mdns4_minimal [NOTFOUND=return]
保存文件并运行以下命令启用 IP 转发:
sudo echo "net.ipv4.ip_forward = 1" >> /etc/sysctl.conf
验证修改:
sudo sysctl -p | grep ip_forward
预期结果:
net.ipv4.ip_forward = 1
添加边缘节点
使用
admin
用户登录控制台,点击左上角的平台管理。选择集群管理,然后导航至节点下的边缘节点。
备注
如果已经启用多集群管理,则需要首先选择一个集群。
点击添加。在出现的对话框中,设置边缘节点的节点名称并输入其内网 IP 地址。点击验证以继续。
备注
- 内网 IP 地址仅用于节点间通信,您不一定要使用边缘节点的真实内网 IP 地址。只要 IP 地址验证成功,您就可以使用该 IP 地址。
- 建议您勾选方框添加默认污点。
复制边缘节点配置命令下自动创建的命令,并在您的边缘节点上运行该命令。
备注
在运行该命令前,请确保您的边缘节点上已安装
wget
。关闭对话框,刷新页面,您将看到边缘节点显示在列表中。
备注
添加边缘节点后,如果在边缘节点页面查看不到 CPU 和内存资源使用情况,请确保您的集群中已安装 Metrics Server 0.4.1 或以上版本。
收集边缘节点监控信息
如果需要收集边缘节点的监控信息,请先在ClusterConfiguration
中开启 metrics_server
,以及在 KubeEdge 中开启 edgeStream
。
在 KubeSphere 控制台上,点击平台管理 > 集群管理。
在左侧导航栏。点击定制资源定义。
在右侧的搜索框中,输入
clusterconfiguration
,并点击结果查看其详细页面。点击
ks-installer
右侧的 ,选择编辑 YAML。找到 metrics_server,将
enabled
的false
更改为true
。metrics_server:
enabled: true # 将“false”更改为“true”。
点击右下角的确定,保存配置。
进入
/etc/kubeedge/config
文件,搜索edgeStream
,将false
更改为true
并保存文件。cd /etc/kubeedge/config
vi edgecore.yaml
edgeStream:
enable: true #将“false”更改为“true”。
handshakeTimeout: 30
readDeadline: 15
server: xx.xxx.xxx.xxx:10004 #如果没有添加端口转发,将端口修改为30004。
tlsTunnelCAFile: /etc/kubeedge/ca/rootCA.crt
tlsTunnelCertFile: /etc/kubeedge/certs/server.crt
tlsTunnelPrivateKeyFile: /etc/kubeedge/certs/server.key
writeDeadline: 15
重启
edgecore.service
。systemctl restart edgecore.service
如果仍然无法显示监控数据,执行以下命令:
journalctl -u edgecore.service -b -r
备注
如果提示
failed to check the running environment: kube-proxy should not running on edge node when running edgecore
,需要参考步骤 8 再次重启edgecore.service
。
移除边缘节点
移除边缘节点之前,请删除在该节点上运行的全部工作负载。
在边缘节点上运行以下命令:
./keadm reset
apt remove mosquitto
rm -rf /var/lib/kubeedge /var/lib/edged /etc/kubeedge/ca /etc/kubeedge/certs
备注
如果无法删除 tmpfs 挂载的文件夹,请重启节点或先取消挂载该文件夹。
运行以下命令从集群中移除边缘节点:
kubectl delete node <edgenode-name>
如需从集群中卸载 KubeEdge,运行以下命令:
helm uninstall kubeedge -n kubeedge
kubectl delete ns kubeedge
备注
卸载完成后,您将无法为集群添加边缘节点。