S3 协议接口

Ozone 提供了兼容 S3 的 REST 接口，你可以使用任何兼容 S3 的工具来操作 Ozone 的对象存储数据。

S3 桶存放在 /s3v 卷下。

起步

S3 网关是提供兼容 S3 的 API 的独立组件，它应当和普通的 Ozone 组件分别启动。

你可以使用发行包启动一个基于 docker 的集群，其中会包括 S3 网关。

进入 compose/ozone 目录，启动服务：

docker-compose up -d --scale datanode=3

你可以通过 http://localhost:9878 访问 S3 网关。

URL 规范

Ozone S3 网关既支持虚拟主机风格的 URL 作为桶地址（形如：http://bucketname.host:9878），也支持多级路径风格的 URL 作为桶地址（形如 http://host:9878/bucketname）。

默认使用多级路径风格，如果要使用虚拟主机风格的 URL，在 ozone-site.xml 中设置你的主域名：

<property>
   <name>ozone.s3g.domain.name</name>
   <value>s3g.internal</value>
</property>

已实现的 REST 端点

S3 网关服务的操作：

桶操作：

对象操作：

安全

如果不启用安全机制，你可以使用任何 AWS_ACCESS_KEY_ID 和 AWS_SECRET_ACCESS_KEY 来访问 Ozone 的 S3 服务。

在启用了安全机制的情况下，你可以通过 ozone s3 gesecret 命令获取 key 和 secret（需要进行 Kerberos 认证）。

kinit -kt /etc/security/keytabs/testuser.keytab testuser/scm@EXAMPLE.COM
ozone s3 getsecret
awsAccessKey=testuser/scm@EXAMPLE.COM
awsSecret=c261b6ecabf7d37d5f9ded654b1c724adac9bd9f13e247a235e567e8296d2999

现在你可以使用 key 和 secret 来访问 S3 endpoint：

export AWS_ACCESS_KEY_ID=testuser/scm@EXAMPLE.COM
export AWS_SECRET_ACCESS_KEY=c261b6ecabf7d37d5f9ded654b1c724adac9bd9f13e247a235e567e8296d2999
aws s3api --endpoint http://localhost:9878 create-bucket --bucket bucket1

公开任何卷

Ozone 与 S3 相比，Ozone 在命名空间层次结构中多了一个元素：卷。默认情况下，可以使用 S3 接口访问 /s3v 卷的所有存储桶，但仅有 /s3v 卷的（Ozone）存储桶被公开。

为了使 S3 接口上的任何其他桶可用，可以创建一个“符号链接”的桶:

ozone sh volume create /s3v
ozone sh volume create /vol1
ozone sh bucket create /vol1/bucket1
ozone sh bucket link /vol1/bucket1 /s3v/common-bucket

本例通过 S3 接口将 /vol1/bucket1 Ozone 桶公开为 S3 兼容的 common-bucket。

(注:桶链接功能的实现细节可在设计文档中找到)

客户端

AWS 命令行接口

通过指定自定义的 –endpoint 选项，aws 命令行接口可以在 Ozone S3 上使用。

aws s3api --endpoint http://localhost:9878 create-bucket --bucket buckettest

或者

aws s3 ls --endpoint http://localhost:9878 s3://buckettest

S3 Fuse 驱动（goofys）

Goofys 是一个 S3 FUSE 驱动，可以将 Ozone 的桶挂载到 POSIX 文件系统。

goofys --endpoint http://localhost:9878 bucket1 /mount/bucket1