Flink K8s 集成支持

StreamX Flink Kubernetes 基于 Flink Native Kubernetes 实现，支持以下 Flink 运行模式：

• Native-Kubernetes Application
• Native-Kubernetes Session

单个 StreamX 实例当前只支持单个 Kubernetes 集群，如果您有多 Kubernetes 支持的诉求，欢迎提交相关的 Fearure Request Issue : )

额外环境要求

StreamX Flink-K8s 需要具备以下额外的运行环境：

• Kubernetes
• Maven（StreamX 运行节点具备）
• Docker（StreamX 运行节点是具备）

StreamX 实例并不需要强制部署在 Kubernetes 所在节点上，可以部署在 Kubernetes 集群外部节点，但是需要该 StreamX 部署节点与 Kubernetes 集群保持网络通信畅通。

集成准备

Kubernetes 连接配置

StreamX 直接使用系统 ～/.kube/config 作为 Kubernetes 集群的连接凭证，最为简单的方式是直接拷贝 Kubernetes 节点的 .kube/config 到 StreamX 节点用户目录，各云服务商 Kubernetes 服务也都提供了相关配置的快速下载。当然为了权限约束，也可以自行生成对应 k8s 自定义账户的 config。

完成后，可以通过 StreamX 所在机器的 kubectl 快速检查目标 Kubernetes 集群的连通性：

kubectl cluster-info

Kubernetes RBAC 配置

同样的，需要准备 Flink 所使用 K8s Namespace 的 RBAC 资源，请参考 Flink-Docs：https://ci.apache.org/projects/flink/flink-docs-stable/docs/deployment/resource-providers/native_kubernetes/#rbac

假设使用 Flink Namespace 为 flink-dev，不明确指定 K8s 账户，可以如下创建简单 clusterrolebinding 资源：

kubectl create clusterrolebinding flink-role-binding-default --clusterrole=edit --serviceaccount=flink-dev:default

Docker 远程容器服务配置

在 StreamX Setting 页面，配置目标 Kubernetes 集群所使用的 Docker 容器服务的连接信息。

在远程 Docker 容器服务创建一个名为 streamx 的 Namespace ，为 StreamX 自动构建的 Flink image 推送空间，请确保使用的 Docker Register User 具有该 Namespace 的 pull/push 权限。

可以在 StreamX 所在节点通过 docker command 简单测试权限：

# verify access
docker login --username=<your_username> <your_register_addr>
# verify push permission
docker pull busybox
docker tag busybox <your_register_addr>/streamx/busybox
docker push <your_register_addr>/streamx/busybox
# verify pull permission
docker pull <your_register_addr>/streamx/busybox

任务提交

Application 任务发布

其中需要说明的参数如下：

• Flink Base Docker Image： 基础 Flink Docker 镜像的 Tag，可以直接从 DockerHub - offical/flink 获取，也支持用户私有的底层镜像，此时在 setting 设置 Docker Register Account 需要具备该私有镜像 pull 权限。
• Rest-Service Exposed Type：对应 Flink 原生 kubernetes.rest-service.exposed.type 配置，各个候选值说明：
  • ClusterIP：需要 StreamX 可直接访问 K8s 内部网络；
  • LoadBalancer：需要 K8s 提前创建 LoadBalancer 资源，且 Flink Namespace 具备自动绑定权限，同时 StreamX 可以访问该 LoadBalancer 网关；
  • NodePort：需要 StreamX 可以直接连通所有 K8s 节点；
• Kubernetes Pod Template： Flink 自定义 pod-template 配置。

任务启动后，支持在该任务的 Detail 页直接访问对应的 Flink Web UI 页面：

Session 任务发布

Flink-Native-Kubernetes Session 任务 K8s 额外的配置（pod-template 等）完全由提前部署的 Flink-Session 集群决定，请直接参考 Flink-Doc：https://ci.apache.org/projects/flink/flink-docs-stable/docs/deployment/resource-providers/native_kubernetes

相关参数配置

StreamX 在 applicaton.yml Flink-K8s 相关参数如下，默认情况下不需要额外调整默认值。