外部持久卷

通过 Marathon 使用外部持久卷

当容错对您的应用程序至关重要时，请使用外部卷。如果主机发生故障，本地 Marathon 实例会在其他主机上重新安排您的应用程序及其相关数据，而无需用户干预。外部卷通常提供较大的存储量。

Marathon 应用程序通常在终止和重新启动时失去状态。在某些情况下，例如，如果您的应用程序使用 MySQL，您将希望应用程序保存其状态。您可以使用外部存储服务，例如 Amazon 的 Elastic Block Store (EBS)，创建跟随应用程序实例的持久卷。

请注意，卷的大小以吉字节 (GiB) 为单位指定。

创建具有外部持久卷的应用程序

Marathon 应用定义

您可以在 [Marathon 应用定义][6] 中指定外部卷。

使用 Universal Container Runtime

此应用定义中 cmd 将 date 命令的输出附加到 test.txt. 如果您看到应用程序连续运行的日志显示越来越多的 date 输出行，则可以确定外部卷已被正确使用。

  1. {
  2.   "id": "hello",
  3.   "instances": 1,
  4.   "cpus": 0.1,
  5.   "mem": 32,
  6.   "cmd": "date >> test-rexray-volume/test.txt; cat test-rexray-volume/test.txt",
  7.   "container": {
  8.     "type": "MESOS",
  9.     "volumes": [
  10.       {
  11.         "containerPath": "test-rexray-volume",
  12.         "external": {
  13.           "size": 100,
  14.           "name": "my-test-vol",
  15.           "provider": "dvdi",
  16.           "options": { "dvdi/driver": "rexray" }
  17.           },
  18.         "mode": "RW"
  19.       }
  20.     ]
  21.   },
  22.   "upgradeStrategy": {
  23.     "minimumHealthCapacity": 0,
  24.     "maximumOverCapacity": 0
  25.   }
  26. }

卷配置选项

  • containerPath：卷装载在容器内的路径。对于 Mesos 外部卷，这必须是相对于容器的单层路径；不能包含正斜杠 (/). 有关更多信息，请参阅[数据目录上的 REX-Ray 文档][7]。
  • mode：卷的访问模式。目前， "RW" 是唯一可能的值，它将允许您的应用程序从卷中读取及写入卷。
  • external.size：以 GiB 为单位的卷大小。
  • external.name: name 卷驱动程序用于查找外部卷的名称。当您的任务在代理程序上暂存时，卷驱动程序将在存储服务中查询具有此名称的卷。如果不存在，则是[隐式创建的][8]。否则，将重用现有卷。
  • external.options["dvdi/driver"]：用于存储的 Docker 卷驱动程序。随 DC/OS 提供的唯一靠 Docker 卷驱动程序是 rexray. 了解有关 [REX-Ray][9] 的更多信息。
  • 您可以通过 container.volumes[x].external.options[optionName] 来指定其他选项。Mesos 容器的 dvdi 提供程序适用 dvdcli，它提供以下[选项][10]。任何选项的可用性取决于您的卷驱动程序。
  • 通过在 container.volumes 阵列中添加其他项来创建多个卷。
  • 创建应用程序后，无法更改卷参数。
  • 如 upgradeStrategy.minimumHealthCapacity 大于 0.5 或 upgradeStrategy.maximumOverCapacity 不等于 0，Marathon 将不会启动具有外部卷的应用程序。

使用 Docker 引擎

下面是一个示例应用定义，它使用 Docker Engine 并指定外部卷。此应用定义中 cmd 将 date 命令的输出附加到 test.txt. 如果您看到应用程序连续运行的日志显示越来越多的 date 输出行，则可以验证是否正确使用了外部卷。

  1. {
  2.   "id": "/test-docker",
  3.   "instances": 1,
  4.   "cpus": 0.1,
  5.   "mem": 32,
  6.   "cmd": "date >> /data/test-rexray-volume/test.txt; cat /data/test-rexray-volume/test.txt",
  7.   "container": {
  8.     "type": "DOCKER",
  9.     "docker": {
  10.       "image": "alpine:3.1",
  11.       "network": "HOST",
  12.       "forcePullImage": true
  13.     },
  14.     "volumes": [
  15.       {
  16.         "containerPath": "/data/test-rexray-volume",
  17.         "external": {
  18.           "name": "my-test-vol",
  19.           "provider": "dvdi",
  20.           "options": { "dvdi/driver": "rexray" }
  21.         },
  22.         "mode": "RW"
  23.       }
  24.     ]
  25.   },
  26.   "upgradeStrategy": {
  27.     "minimumHealthCapacity": 0,
  28.     "maximumOverCapacity": 0
  29.   }
  30. }

卷配置选项

  • containerPath 必须是绝对的。
  • 只有某些版本的 Docker 与 REX-Ray 卷驱动程序兼容。请参阅 [REX-Ray 文档][11]。

从 DC/OS UI 创建应用程序

  1. 单击 Services 选项卡，然后 RUN A SERVICE。
  2. 如果您正在使用 Docker 容器，请单击 Container Settings 并配置您的容器运行时间。
  3. 单击 Volumes 并输入卷名称和容器路径。
  4. 单击 Deploy。

隐式卷

默认隐式卷大小为 16 GiB。如果您使用的是 Universal Container Runtime，则可以通过设置 来修改特定卷的此默认值。volumes[x].external.size. 如果您使用的是 Docker Engine，则无法修改特定卷的此默认值。但是，对于这两个运行时间，您可以通过修改 [REX-Ray configuration][4] 来修改所有隐式卷的默认大小。

扩展应用程序

使用外部卷的应用程序只能扩展为单个实例，因为卷一次只能附加到单个任务。

如果将应用程序减容到 0 个实例，该卷将从装载它的代理程序中分离，但不会被删除。如果您再次扩展应用程序，则与其关联的数据仍然可用。

使用第三方 Docker 卷驱动程序

如果您想使用第三方的 Docker 卷驱动程序，而非 REX-RAY（例如，Netapp Trident)，那么您需要在每个代理节点上执行以下步骤（以下步骤以 Trident 为例）：

  1. 将卷驱动程序安装为 Docker 插件。

    1. $ docker plugin install netapp/trident-plugin:19.10 --alias netapp --grant-all-permissions

  2. 将卷驱动程序注册到 Docker 插件目录。请参阅 Docker 插件 API，以了解 Docker 如何发现插件。

    1. $ sudo mkdir -p /etc/docker/plugins/
    2. $ sudo bash -c 'echo "unix:///run/docker/plugins/<plugin-id>/netapp.sock" > /etc/docker/plugins/netapp.spec'

现在，您可以在 DC/OS 中使用卷驱动程序了。创建应用程序时，您需要将选项 external.options["dvdi/driver"] 设为卷驱动程序的名称（如 netapp）。

潜在问题

  • 每个卷只能分配一个任务。您的存储提供程序可能有其他限制。
  • 您创建的卷不会自动清除。如果删除群集，则必须转至存储提供程序并删除不再需要的卷。如果您正在使用 EBS，请通过您在 Marathon 应用定义中设置的 container.volumes.external.name 进行搜索来查找它们。此名称对应于 EBS 卷 Name 标签。
  • 卷由其存储提供程序命名。选择唯一的卷名称以避免冲突。
  • 如果使用 Docker，则必须使用兼容的 Docker 版本。请参阅 [REX-Ray 文档][11]，了解哪些版本的 Docker 与 REX-Ray 卷驱动程序兼容。
  • 对于隐式创建卷的应用程序，启动时间可能会增加。增加的量取决于若干因素，包括卷大小和类型。存储提供程序处理卷的方法也会影响隐式创建卷的启动时间。

EBS 特定

在同一 AWS 账户上创建的卷共享一个命名空间。选择唯一的卷名称以避免在同一帐户下启动多个群集时的冲突。

EBS 卷也由其可用区 (AZ) 命名，并且 EBS 卷 [只能连接到同一 AZ 的 EC2 实例][12]。因此，尝试在不同的 AZ 中运行的代理程序中启动任务将导致创建同名的新卷。如果您在一个 AZ 中创建群集，请将其销毁，如果您希望重用任何外部卷，请确保在同一 AZ 中创建群集。如果群集跨越多个 AZ，请使用 Marathon 限制仅在同一 AZ 中启动实例。

默认情况下，REX-Ray 将在连接 13 个 EBS 卷后失败。使用 [配置选项 useLargeDeviceRange 来扩展此限制][13]，这已在 RexRay v0.11.4 中引入。

在某些较新的 EC2 实例类型上，EBS 卷作为非易失性内存主机控制器接口规范 (NVMe) 设备存在。对 NVMe 的支持仅添加到 v0.11.4 的 RexRay。您需要采取以下必要步骤，才能使 RexRay 与 CentOS 上的 NVMe 设备一起使用（在较新的 CoreOS AMI 上，则不需要）：

  1. 安装 NVMe CLI 命令。

    1. $ yum install -y nvme-cli

  2. 安装必要的 udev 规则和 helper 脚本。这些都取自 RexRay 用户指南.

    1. $ cat <<EOF > /etc/udev/rules.d/999-aws-ebs-nvme.rules
    2. KERNEL=="nvme[0-9]*n[0-9]*", ENV{DEVTYPE}=="disk", ATTRS{model}=="Amazon Elastic Block Store", PROGRAM="/usr/local/bin/ebs-nvme-mapping /dev/%k", SYMLINK+="%c"
    3. EOF

  3. 创建 helper 脚本。

    1. $ cat <<EOF > /usr/local/bin/ebs-nvme-mapping
    2. #!/bin/bash
    3. #/usr/local/bin/ebs-nvme-mapping
    4. vol=$(/usr/sbin/nvme id-ctrl --raw-binary "${1}" | \
    5.       cut -c3073-3104 | tr -s ' ' | sed 's/ $//g')
    6. vol=${vol#/dev/}
    7. [ -n "${vol}" ] && echo "${vol/xvd/sd} ${vol/sd/xvd}"
    8. EOF
  1. 1. 在脚本上设置文件权限，然后重新加载 udev 规则。
  2.     ```bash
  3.     $ chown root:root /usr/local/bin/ebs-nvme-mapping
  4.     $ chmod 700 /usr/local/bin/ebs-nvme-mapping
  5.     $ udevadm control --reload

外部卷

有关外部卷的故障排除，请参阅代理程序或系统日志。如果您在 DC/OS 上使用 REX-Ray，还可以查阅 systemd 日志中的 dcos-rexray.service 单元记录。

```