边缘节点配置

前言

为了配置kubernetes中的traefik ingress的高可用，对于kubernetes集群以外只暴露一个访问入口，需要使用keepalived排除单点问题。本文参考了kube-keepalived-vip，但并没有使用容器方式安装，而是直接在node节点上安装。

定义

首先解释下什么叫边缘节点（Edge Node），所谓的边缘节点即集群内部用来向集群外暴露服务能力的节点，集群外部的服务通过该节点来调用集群内部的服务，边缘节点是集群内外交流的一个Endpoint。

边缘节点要考虑两个问题

  • 边缘节点的高可用，不能有单点故障，否则整个kubernetes集群将不可用
  • 对外的一致暴露端口，即只能有一个外网访问IP和端口

架构

为了满足边缘节点的以上需求，我们使用keepalived来实现。

在Kubernetes集群外部配置nginx来访问边缘节点的VIP。

选择Kubernetes的三个node作为边缘节点，并安装keepalived。

边缘节点架构

准备

复用kubernetes测试集群的三台主机。

172.20.0.113

172.20.0.114

172.20.0.115

安装

使用keepalived管理VIP，VIP是使用IPVS创建的，IPVS已经成为linux内核的模块，不需要安装

LVS的工作原理请参考：http://www.cnblogs.com/codebean/archive/2011/07/25/2116043.html

不使用镜像方式安装了，直接手动安装，指定三个节点为边缘节点（Edge node）。

因为我们的测试集群一共只有三个node，所有在在三个node上都要安装keepalived和ipvsadmin。

  1. yum install keepalived ipvsadm

配置说明

需要对原先的traefik ingress进行改造，从以Deployment方式启动改成DeamonSet。还需要指定一个与node在同一网段的IP地址作为VIP，我们指定成172.20.0.119，配置keepalived前需要先保证这个IP没有被分配。。

  • Traefik以DaemonSet的方式启动
  • 通过nodeSelector选择边缘节点
  • 通过hostPort暴露端口
  • 当前VIP漂移到了172.20.0.115上
  • Traefik根据访问的host和path配置，将流量转发到相应的service上

配置keepalived

参考基于keepalived 实现VIP转移，lvs，nginx的高可用，配置keepalived。

keepalived的官方配置文档见：http://keepalived.org/pdf/UserGuide.pdf

配置文件/etc/keepalived/keepalived.conf文件内容如下：

  1. ! Configuration File for keepalived
  3. global_defs {
  4.    notification_email {
  5.      root@localhost
  6.    }
  7.    notification_email_from kaadmin@localhost
  8.    smtp_server 127.0.0.1
  9.    smtp_connect_timeout 30
  10.    router_id LVS_DEVEL
  11. }
  13. vrrp_instance VI_1 {
  14.     state MASTER
  15.     interface eth0
  16.     virtual_router_id 51
  17.     priority 100
  18.     advert_int 1
  19.     authentication {
  20.         auth_type PASS
  21.         auth_pass 1111
  22.     }
  23.     virtual_ipaddress {
  24.         172.20.0.119
  25.     }
  26. }
  28. virtual_server 172.20.0.119 80{
  29.     delay_loop 6
  30.     lb_algo loadbalance
  31.     lb_kind DR
  32.     nat_mask 255.255.255.0
  33.     persistence_timeout 0
  34.     protocol TCP
  36.     real_server 172.20.0.113 80{
  37.         weight 1
  38.         TCP_CHECK {
  39.         connect_timeout 3
  40.         }
  41.     }
  42.     real_server 172.20.0.114 80{
  43.         weight 1
  44.         TCP_CHECK {
  45.         connect_timeout 3
  46.         }
  47.     }
  48.     real_server 172.20.0.115 80{
  49.         weight 1
  50.         TCP_CHECK {
  51.         connect_timeout 3
  52.         }
  53.     }
  54. }

Realserver的IP和端口即traefik供外网访问的IP和端口。

将以上配置分别拷贝到另外两台node的/etc/keepalived目录下。

我们使用转发效率最高的lb_kind DR直接路由方式转发，使用TCP_CHECK来检测real_server的health。

启动keepalived

  1. systemctl start keepalived

三台node都启动了keepalived后，观察eth0的IP，会在三台node的某一台上发现一个VIP是172.20.0.119。

  1. $ ip addr show eth0
  2. 2: eth0: <BROADCAST,MULTICAST,UP,LOWER_UP> mtu 1500 qdisc mq state UP qlen 1000
  3.     link/ether f4:e9:d4:9f:6b:a0 brd ff:ff:ff:ff:ff:ff
  4.     inet 172.20.0.115/17 brd 172.20.127.255 scope global eth0
  5.        valid_lft forever preferred_lft forever
  6.     inet 172.20.0.119/32 scope global eth0
  7.        valid_lft forever preferred_lft forever

关掉拥有这个VIP主机上的keepalived，观察VIP是否漂移到了另外两台主机的其中之一上。

改造Traefik

在这之前我们启动的traefik使用的是deployment，只启动了一个pod，无法保证高可用（即需要将pod固定在某一台主机上，这样才能对外提供一个唯一的访问地址），现在使用了keepalived就可以通过VIP来访问traefik，同时启动多个traefik的pod保证高可用。

配置文件traefik.yaml内容如下：

  1. apiVersion: extensions/v1beta1
  2. kind: DaemonSet
  3. metadata:
  4.   name: traefik-ingress-lb
  5.   namespace: kube-system
  6.   labels:
  7.     k8s-app: traefik-ingress-lb
  8. spec:
  9.   template:
  10.     metadata:
  11.       labels:
  12.         k8s-app: traefik-ingress-lb
  13.         name: traefik-ingress-lb
  14.     spec:
  15.       terminationGracePeriodSeconds: 60
  16.       hostNetwork: true
  17.       restartPolicy: Always
  18.       serviceAccountName: ingress
  19.       containers:
  20.       - image: traefik
  21.         name: traefik-ingress-lb
  22.         resources:
  23.           limits:
  24.             cpu: 200m
  25.             memory: 30Mi
  26.           requests:
  27.             cpu: 100m
  28.             memory: 20Mi
  29.         ports:
  30.         - name: http
  31.           containerPort: 80
  32.           hostPort: 80
  33.         - name: admin
  34.           containerPort: 8580
  35.           hostPort: 8580
  36.         args:
  37.         - --web
  38.         - --web.address=:8580
  39.         - --kubernetes
  40.       nodeSelector:
  41.         edgenode: "true"

注意，我们使用了nodeSelector选择边缘节点来调度traefik-ingress-lb运行在它上面，所有你需要使用：

  1. kubectl label nodes 172.20.0.113 edgenode=true
  2. kubectl label nodes 172.20.0.114 edgenode=true
  3. kubectl label nodes 172.20.0.115 edgenode=true

给三个node打标签。

查看DaemonSet的启动情况：

  1. $ kubectl -n kube-system get ds
  2. NAME                 DESIRED   CURRENT   READY     UP-TO-DATE   AVAILABLE   NODE-SELECTOR                              AGE
  3. traefik-ingress-lb   3         3         3         3            3           edgenode=true                              2h

现在就可以在外网通过172.20.0.119:80来访问到traefik ingress了。

参考

kube-keepalived-vip

http://www.keepalived.org/

keepalived工作原理与配置说明

LVS简介及使用

基于keepalived 实现VIP转移，lvs，nginx的高可用