Serving（服务）

即便使用无服务器架构，处理和响应 HTTP 请求的能力依然重要。在开始写代码使用事件触发一个函数之前，您需要有地方来运行代码。

本章探讨 Knative Serving 组件，您将了解 Knative Serving 如何管理部署以及为应用和函数提供服务。通过 Serving，您可以轻松地将一个预先构建好的镜像部署到底层 Kubernetes 集群中。（在第三章： Build，您将看到 如何使用 Knative Build 构建镜像以在 Serving 组件中运行）Knative Serving 维护某一时刻的快照，提供自动化伸缩功能（既支持扩容，也支持缩容直至为零)，以及处理必要的路由和网络编排。

Serving 模块定义一组特定的对象以控制所有功能：Revision（修订版本）、Configuration （配置）、Route（路由）和 Service（服务）。Knative 使用 Kubernetes CRD（自定义资源）的方式实现这些 Kubernetes 对象。下图 2-1 展示所有 Serving 组件对象模型间的关系。在接下去的章节将具体介绍每个部分。

Serving Object Model 图 2-1: Knative Serving 对象模型

Configuration（配置）和 Revision（修订版本）

Knative Serving 始于 Configuration。您可以在 Configuration 中为部署定义所需的状态。最小化 Configuration 至少包括一个配置名称和一个要部署容器镜像的引用。在 Knative 中，定义的引用为 Revision。Revision 代表一个不变的，某一时刻的代码和 Configuration 的快照。每个 Revision 引用一个特定的容器镜像和运行它所需要的任何特定对象（例如环境变量和卷）。然而，您不必显式创建 Revision。由于 Revision 是不变的，它们从不会被改变和删除，相反，当您修改 Configuration 的时候，Knative 会创建一个 Revision。这允许一个 Configuration 既反映工作负载的当前状态，同时也维护一个它自己的历史 Revision 列表。

以下例 2-1 展示了一个完整的 Configuration 定义。它指定一个 Revision，该 Revision 使用一个容器镜像仓库 URI 引用一个特定的镜像并且指定其版本标签。

例 2-1. knative-helloworld/configuration.yml 

  1. apiVersion: serving.knative.dev/v1alpha1
  2. kind: Configuration
  3. metadata:
  4.   name: knative-helloworld
  5.   namespace: default
  6. spec:
  7.   revisionTemplate:
  8.     spec:
  9.       container:
  10.         image: docker.io/gswk/knative-helloworld:latest
  11.         env:
  12.           - name: MESSAGE
  13.             value: "Knative!"

现在，您可以用一个简单的命令启用该 YAML 文件：

  1. $ kubectl apply -f configuration.yaml

自定义端口

默认情况下，Knative 将假定您的应用程序监听 8080 端口。您可以通过 containerPort 参数自定义一个端口：

  1.     spec:
  2.       revisionTemplate:
  3.         spec:
  4.           container:
  5.             image: docker.io/gswk/knative-helloworld:latest
  6.             env:
  7.               - name: MESSAGE
  8.                 value: "Knative!"
  9.             ports:
  10.               - containerPort: 8081

就像任意 Kubernetes 对象一样，您可以在系统中使用命令行工具（CLI）查阅 Revision 和 Configuration。您可以使用 kubectl get revisions 和 kubectl get configurations 得到它们的列表。获取我们刚刚创建例 2-1 的 Configuration，可以使用命令 kubectl get configuration knative-helloworld -oyaml。这将以 YAML 形式显示该 Configuration 完整详情（如下例 2-2）。

例 2-2. 命令 kubectl get configuration knative-hellworld -oyaml 的输出

  1. apiVersion: serving.knative.dev/v1alpha1
  2. kind: Configuration
  3. metadata:
  4.   creationTimestamp: YYYY-MM-DDTHH:MM:SSZ
  5.   generation: 1
  6.   labels:
  7.     serving.knative.dev/route: knative-helloworld
  8.     serving.knative.dev/service: knative-helloworld
  9.   name: knative-helloworld
  10.   namespace: default
  11.   ownerReferences:
  12.   - apiVersion: serving.knative.dev/v1alpha1
  13.     blockOwnerDeletion: true
  14.     controller: true
  15.     kind: Service
  16.     name: knative-helloworld
  17.     uid: 9835040f-f29c-11e8-a238-42010a8e0068
  18.   resourceVersion: "374548"
  19.   selfLink: "/apis/serving.knative.dev/v1alpha1/namespaces\
  20.     /default/configurations/knative-helloworld"
  21.   uid: 987101a0-f29c-11e8-a238-42010a8e0068
  22. spec:
  23.   generation: 1
  24.   revisionTemplate:
  25.     metadata:
  26.       creationTimestamp: null
  27.     spec:
  28.       container:
  29.         image: docker.io/gswk/knative-helloworld:latest
  30.         name: ""
  31.         resources: {}
  32. status:
  33.   conditions:
  34.   - lastTransitionTime: YYYY-MM-DDTHH:MM:SSZ
  35.     status: "True"
  36.     type: Ready
  37.   latestCreatedRevisionName: knative-helloworld-00001
  38.   latestReadyRevisionName: knative-helloworld-00001
  39.   observedGeneration: 1

注意例 2-2 中 status 小节，Configuration 控制器保持对最近创建和就绪 Revision 的追踪。它也包含了 Revision 的适用条件，表明它是否就绪以接收流量。

提醒

Configuration 可以指定一个已有的容器镜像，如例 2-1 中所示。或者，它也可以选择指向一个 Build 资源以从源代码创建一个容器镜像。第三章：Build 将介绍 Knative Build 组件的详情并提供一些例。

那么在 Kubernetes 集群内部发生了什么？我们在 Configuration 中指定的容器镜像是什么样子？Knative 转换 Configuration 定义为一些 Kubernetes 对象并在集群中创建它们。在启用 Configuration 后，可以看到相应的 Deployment、ReplicaSet 和 Pod。例 2-3 展示了所有来自例 2-1 所创建的对象。

例 2-3. Knative 创建的 Kubernetes 对象 

  1. $ kubectl get deployments -oname
  2. deployment.extensions/knative-helloworld-00001-deployment
  4. $ kubectl get replicasets -oname
  5. replicaset.extensions/knative-helloworld-00001-deployment-5f7b54c768
  7. $ kubectl get pods -oname
  8. pod/knative-helloworld-00001-deployment-5f7b54c768-lrqt5

现在我们有了用于运行我们应用的 Pod，但是我们怎么知道该向哪里发送请求？这正是 Route 用武之地。

Route（路由）

Knative 中的 Route 提供了一种将流量路由到正在运行的代码的机制。它将一个命名的，HTTP 可寻址端点映射到一个或者多个 Revision。Configuration 本身并不定义 Route。例 2-4 展示了一个将流量发送到指定 Configuration 最新 Revision 的最基本路由定义。

例 2-4. knative-helloworld/route.yml

  1. apiVersion: serving.knative.dev/v1alpha1
  2. kind: Route
  3. metadata:
  4.   name: knative-helloworld
  5.   namespace: default
  6. spec:
  7.   traffic:
  8.   - configurationName: knative-helloworld
  9. percent: 100

就像我们对 Configuration 所做的那样，我们可以运行一个简单的命令应用该 YAML 文件：

  1. kubectl apply -f route.yaml

这个定义中，Route 发送 100% 流量到由 configurationName 属性指定 Configuration 的最新就绪 Revision，该 Revision 由 Configuration YAML 中 latestReadyRevisionName 属性定义。您可以通过发送如下 curl 命令来测试这些 Route 和 Configuration ：

  1. curl -H "Host: knative-routing-demo.default.example.com"
  2. http://$KNATIVE_INGRESS

通过使用 revisionName 替代 latestReadyRevisionName ，您可以锁定一个 Route 以发送流量到一个指定的 Revision。使用 name 属性，您也可以通过可寻址子域名访问 Revision。例 2-5 同时展示两种场景。

例 2-5. knative-routing-demo/route.yml

  1. apiVersion: serving.knative.dev/v1alpha1
  2. kind: Route
  3. metadata:
  4.   name: knative-routing-demo
  5.   namespace: default
  6. spec:
  7.   traffic:
  8.   - revisionName: knative-routing-demo-00001
  9.     name: v1
  10.     percent: 100

我们可以再一次使用简单命令应用该 YAML 文件：

  1. kubectl apply -f route.yaml

指定的 Revision 可以使用 v1 子域名访问，如下 curl 命令所示：

  1. curl -H "Host: v1.knative-routing-demo.default.example.com"
  2. http://$KNATIVE_INGRESS

提醒

Knative 默认使用 example.com 域名，但不适合生产使用。您会注意到在 curl 命令（v1.knative-routing-demo.default.example.com）中作为一个主机头传递的 URL 包含该默认值作为域名后缀。URL 格式遵循模式 {REVISION_NAME}.{SERVICE_NAME}.{NAMESPACE}.{DOMAIN} 。

在这个案例中，子域名中 default 部分指的是命名空间。您将在第六章：部署注意事项一节中学习到如何改变这些值以及如何使用自定义域名。

Knative 也允许以百分比的方式跨 Revision 进行流量分配。支持诸如增量发布、蓝绿部署或者其他复杂的路由场景。您将在第六章看到这些以及其他案例。

Autoscaler（自动伸缩器）和 Activator（激活器）

Serverless 的一个关键原则是可以按需扩容以满足需要和缩容以节省资源。Serverless 负载应当可以一直缩容至零。这意味着如果没有请求进入，则不会运行容器实例。Knative 使用两个关键组件以实现该功能。它将 Autoscaler 和 Activator 实现为集群中的 Pod。您可以看到它们伴随其他 Serving 组件一起运行在 knative-serving 命名空间中（参见例 2-6）。

例 2-6. kubectl get pods -n knative-serving 输出 

  1. NAME                          READY     STATUS    RESTARTS   AGE
  2. activator-69dc4755b5-p2m5h    2/2       Running   0          7h
  3. autoscaler-7645479876-4h2ds   2/2       Running   0          7h
  4. controller-545d44d6b5-2s2vt   1/1       Running   0          7h
  5. webhook-68fdc88598-qrt52      1/1       Running   0          7h

Autoscaler 收集打到 Revision 并发请求数量的有关信息。为了做到这一点，它在 Revision Pod 内运行一个称之为 queue-proxy 的容器，该 Pod 中也运行用户提供的 (user-provided) 镜像。可以在相应 Revision Pod 上，通过运行 kubectl describe 命令可以看到这些容器 (参见例 2-7)。

例 2-7. kubectl describe pod knative-helloworld-00001-deployment-id 输出片段 

  1. ...
  2. Containers:
  3.   user-container:
  4.     Container ID:  docker://f02dc...
  5.     Image:         index.docker.io/gswk/knative-helloworld...
  6. ...
  7.   queue-proxy: 
  8.     Container ID:  docker://1afcb...
  9.     Image:         gcr.io/knative-releases/github.com/knative...
  10. ...

queue-proxy 检测该 Revision 上观察到的并发量，然后它每隔一秒将此数据发送到 Autoscaler。Autoscaler 每两秒对这些指标进行评估。基于评估的结果，它增加或者减少 Revision 部署的规模。

默认情况下，Autoscaler 尝试维持每 Pod 每秒平均 100 个并发请求。这些并发目标和平均并发窗口均可以变化。Autoscaler 也能够被配置为利用 Kubernets HPA（Horizontal Pod Autoscaler）来替代该默认配置。这将基于 CPU 使用率来自动伸缩但不支持缩容至零。这些设定都能够通过 Revision 元数据注解（annotations）定制。有关这些注解的详情，请参阅 Knative 文档。

例如，一个 Revision 每秒收到 350 个请求并且每次请求大约需要处理 0.5 秒。使用默认设置（每 Pod 100 个并发请求），这个 Revision 将扩展至两个 Pod：

  1. 350 * .5 = 175
  2. 175 / 100 = 1.75
  3. ceil(1.75) = 2 pods

Autoscaler 也负责缩容至零。Revision 处于 Active（激活）状态才接受请求。当一个 Revision 停止接受请求时，Autoscaler 将其置为 Reserve（待命）状态，条件是每 Pod 平均并发必须持续 30 秒保持为 0（这是默认设置，但可以配置）。

处于 Reserve 状态下，一个 Revision 底层部署缩容至零并且所有到它的流量均路由至 Activator。Activator 是一个共享组件，其捕获所有到待命 Revision 的流量。当它收到一个到某一待命 Revision 的请求后，它转变 Revision 状态至 Active。然后代理请求至合适的 Pod。

Autoscaler 如何伸缩

Autoscaler 采用的伸缩算法针对两个独立的时间间隔计算所有数据点的平均值。它维护两个时间窗，分别是 60 秒和 6 秒。Autoscaler 使用这些数据以两种模式运作：Stable Mode（稳定模式）和 Panic Mode（恐慌模式）。在 Stable 模式下，它使用 60 秒时间窗平均值决定如何伸缩部署以满足期望的并发量。

如果 6 秒窗口的平均并发量两次到达期望目标，Autoscaler 转换为 Panic Mode 并使用 6 秒时间窗。这让它更加快捷的响应瞬间流量的增长。它也仅仅在 Panic Mode 期间扩容以防止 Pod 数量快速波动。如果超过 60 秒没有扩容发生，Autoscaler 会转换回 Stable Mode。

图 2-2 显示 Autoscaler 和 Activator 如何和 Routes 及 Revisions 协同工作。

Autoscaler and Activator with Route and Revision 图 2-2: Autoscaler 和 Activator 如何和 Routes 及 Revisions 互动。

警告

Autoscaler 和 Activator 均是 Knative 中快速演化的部分。参阅最新 Knative 文档获取最近改进。

服务

在 Knative 中，Service 管理工作负载的整个生命周期。包括部署、路由和回滚。（不要将 Knative Service 和 Kubernetes Service 混淆。它们是不同的资源。） Knative Service 控制一系列组成软件的 Route 和 Configuration。Knative Service 可以被看作是一段代码 —— 您正在部署的应用或者函数。

一个 Service 小心确保一个应用有一个 Route、一个 Configuation，以及为每次 Service 更新产生的一个新 Revision。当创建一个 Service 时，您没有特别定义一个 Route，Knative 创建一个发送流量到最新 Revision 的路由。您可以选择一个特定的 Revision 以路由流量到该 Revision。

不要求您明确创建一个 Service。Route 和 Configuration 可以被分开在不同的 YAML 文件（如例 2-1 和 例 2-4）。在这种情形下，您可以应用每个单独的对象到集群。然而，推荐的方式使用一个 Service 来编排 Route 和 Configuration。例 2-8 所示文件用于替换来自例 2-1 和例 2-4 定义的 configuation.yml 和 route.yml。

例 2-8. knative-helloworld/service.yml 

  1. apiVersion: serving.knative.dev/v1alpha1
  2. kind: Service
  3. metadata:
  4.   name: knative-helloworld
  5.   namespace: default
  6. spec:
  7.   runLatest:
  8.     configuration:
  9.       revisionTemplate:
  10.         spec:
  11.           container:
  12.             image: docker.io/gswk/knative-helloworld:latest

注意这个 service.yml 文件和 configuration.yml 非常相似。这个文件定义 Configuration 并且是最小化 Service 定义。由于这里没有 Route 定义，一个默认 Route 指向最新 Revision。Service 控制器整体追踪它所有的 configuration 和 Route 的状态。然后反映这些状态在它的 ConfigurationsReady 和 RoutesReady conditions （工作状况）属性里。当通过 CLI 使用 kubectl get ksvc 命令请求 Knative Service 信息的时候，这些状态可以被看到。

例 2-9. kubectl get ksvc knative-helloworld -oyaml 命令输出片段 

  1. apiVersion: serving.knative.dev/v1alpha1
  2. kind: Service
  3. metadata:
  4. ...
  5.   name: knative-helloworld
  6.   namespace: default
  7. ...
  8. spec:
  9. ...
  10. status:
  11. conditions:
  12.   - lastTransitionTime: YYYY-MM-DDTHH:MM:SSZ
  13.     status: "True"
  14.     type: ConfigurationsReady
  15.   - lastTransitionTime: YYYY-MM-DDTHH:MM:SSZ
  16.     status: "True"
  17.     type: Ready
  18.   - lastTransitionTime: YYYY-MM-DDTHH:MM:SSZ
  19.     status: "True"
  20.     type: RoutesReady
  21.   domain: knative-helloworld.default.example.com
  22.   domainInternal: knative-helloworld.default.svc.cluster.local
  23.   latestCreatedRevisionName: knative-helloworld-00001
  24.   latestReadyRevisionName: knative-helloworld-00001
  25.   observedGeneration: 1
  26.   targetable:
  27.     domainInternal: knative-helloworld.default.svc.cluster.local
  28.   traffic:
  29.   - percent: 100
  30.     revisionName: knative-helloworld-00001

例 2-9 显示这个命令的输出。

小结

至此已经向您介绍了 Service、Route、Configuration 和 Revision。Revision 是不变的并且只能经由 Configuration 改变而被创建。您可以分别单独创建 Configuration 和 Route，或者把它们组合在一起并定义为一个 Service。理解 Serving 组件的这些构建块是使用 Knative 的基础。您部署的应用均需要一个 Service 或者 Configuration 以在 Knative 中作为容器运行。

但是，如何打包您的源代码进入一个容器镜像以使用本章介绍的方式进行部署？第三章将回答这些问题并且向您介绍 Knative Build 组件。