将对象迁移到远程 MinIO 部署

此页面上的步骤创建了一个新的对象生命周期管理规则，该规则将对象从主 MinIO 部署上的存储桶迁移到远程 MinIO 部署上的存储桶。此步骤支持成本管理策略，例如将对象从使用 NVMe 存储的“热”MinIO 部署分层到使用 SSD 的“温”MinIO 部署。

要求

安装和配置 `mc`

此步骤使用 mc 对 MinIO 集群执行操作。在具有对源集群和目标集群的网络访问权限的机器上安装 mc。请参阅 mc 安装快速入门，了解有关下载和安装 mc 的说明。

使用 mc alias set 命令为源 MinIO 集群创建别名。别名创建需要为源和目标集群上的用户指定访问密钥。指定的用户必须具有权限，用于配置和应用转换操作。

所需的源 MinIO 权限

MinIO 需要以下权限，这些权限的作用域是您为其创建生命周期管理规则的存储桶或存储桶。

MinIO 还需要以下管理权限，这些权限位于您为对象转换生命周期管理规则创建远程层级的集群中

例如，以下策略为在集群中的任何存储桶上配置对象转换生命周期管理规则提供权限

{
   "Version": "2012-10-17",
   "Statement": [
      {
            "Action": [
               "admin:SetTier",
               "admin:ListTier"
            ],
            "Effect": "Allow",
            "Sid": "EnableRemoteTierManagement"
      },
      {
            "Action": [
               "s3:PutLifecycleConfiguration",
               "s3:GetLifecycleConfiguration"
            ],
            "Resource": [
                        "arn:aws:s3:::*"
            ],
            "Effect": "Allow",
            "Sid": "EnableLifecycleManagementRules"
      }
   ]
}

所需的远程 MinIO 权限

对象转换生命周期管理规则需要在远程存储层级上进行额外的权限。具体来说，MinIO 需要远程层级凭据提供对远程存储桶的读、写、列出和删除权限。

例如，远程 MinIO 部署上的以下策略为将对象转换进出远程层级提供必要的权限

{
   "Version": "2012-10-17",
   "Statement": [
      {
            "Action": [
               "s3:ListBucket"
            ],
            "Effect": "Allow",
            "Resource": [
               "arn:aws:s3:::MyDestinationBucket"
            ],
            "Sid": ""
      },
      {
            "Action": [
               "s3:GetObject",
               "s3:PutObject",
               "s3:DeleteObject"
            ],
            "Effect": "Allow",
            "Resource": [
               "arn:aws:s3:::MyDestinationBucket/*"
            ],
            "Sid": ""
      }
   ]
}

修改 Resource，以匹配 MinIO 将对象层级化到的存储桶。

请参阅访问管理文档以获取有关配置所需权限的更完整指南。

远程存储桶必须存在

在使用该存储桶作为目标配置生命周期管理层级或规则之前，创建远程存储桶。

如果远程存储桶包含现有数据，请使用 prefix 功能将转换后的对象与该存储桶上的任何其他对象隔离。

注意事项

生命周期管理对象扫描器

MinIO 使用扫描器进程来检查对象是否符合所有配置的生命周期管理规则。由于高 IO 工作负载或有限的系统资源导致扫描缓慢可能会延迟生命周期管理规则的应用。

对远程数据的独占访问

MinIO *需要* 对远程存储层级上的转换数据进行独占访问。“热”MinIO 源上的对象元数据与“温/冷”远程层级上的对象数据紧密相关。MinIO 无法在没有访问远程层级的情况下检索对象数据，也不能使用远程层级来恢复源上的丢失元数据。

对转换后的对象的所有访问 *必须* 通过 MinIO 进行，仅通过 S3 API 操作。手动修改转换后的对象——无论是“热”MinIO 层级上的元数据 *或* 远程“温/冷”层级上的对象数据——可能会导致该对象数据的丢失。

MinIO 会忽略远程存储桶或存储桶前缀中任何未由 MinIO 部署明确管理的对象。自动转换和透明对象检索取决于以下假设

远程存储上没有外部修改、迁移或删除对象。
远程存储桶上没有生命周期管理规则（例如转换或过期）。

MinIO 将所有转换后的对象存储在远程存储桶或资源中，位于每个部署的唯一前缀值下。此值不打算用于从后端识别源部署。在配置远程目标时，MinIO 支持一个额外的可选人性化前缀，这可能有助于与诊断、维护或灾难恢复相关的操作。

MinIO 建议为包含其他数据的远程存储层级指定此可选前缀，包括来自其他 MinIO 部署的转换后的对象。本教程包括设置此前缀所需的语法。

远程数据的可用性

MinIO 的层级行为取决于远程存储在请求时立即返回对象（毫秒到秒）。因此，MinIO *无法* 支持需要重新水化、等待时间或手动干预的远程存储。

MinIO 为每个转换后的对象创建元数据，以标识其在远程存储上的位置。应用程序不能轻易识别和访问独立于 MinIO 的转换后的对象。因此，转换后的数据的可用性取决于纠删码和分布式部署拓扑结构为 MinIO 部署上的所有对象提供的相同核心保护。使用对象转换不会提供任何额外的业务连续性或灾难恢复优势。

需要 BC/DR 保护的工作负载应实施 MinIO 服务器端复制。复制确保对象保留在远程复制站点上，以便您在发生部分或全部数据丢失时可以从远程站点进行重新同步。请参阅重新同步（灾难恢复）以获取有关使用复制来恢复部分或全部数据丢失的更完整文档。

程序

1) 配置用户帐户和策略以进行生命周期管理

此步骤在 MinIO 部署上创建用户和策略，以支持生命周期管理操作。如果部署已经具有具有必要权限的用户，则可以跳过此步骤。

以下示例使用 Alpha 作为占位符 alias 用于 MinIO 部署。将此值替换为您要配置生命周期管理规则的 MinIO 部署的适当别名。将密码 LongRandomSecretKey 替换为根据您组织的最佳实践生成的较长、随机且安全的密钥。

wget -O - https://min-io.cn/docs/minio/linux/examples/LifecycleManagementAdmin.json | \
mc admin policy create Alpha LifecycleAdminPolicy /dev/stdin
mc admin user add Alpha alphaLifecycleAdmin LongRandomSecretKey
mc admin policy attach Alpha LifecycleAdminPolicy --user=alphaLifecycleAdmin

此示例假定指定的别名具有在部署上创建策略和用户的必要权限。请参阅用户管理和 MinIO 基于策略的访问控制以获取有关 MinIO 用户和策略的更完整文档。

2) 配置远程存储层级

使用 mc ilm tier add 命令添加远程 MinIO 部署作为新的远程存储层级

mc ilm tier add minio TARGET TIER_NAME  \
   --endpoint https://HOSTNAME       \
   --access-key ACCESS_KEY           \
   --secret-key SECRET_KEY           \
   --bucket BUCKET                   \
   --prefix PREFIX                   \
   --storage-class STORAGE_CLASS     \
   --region REGION

上面的示例使用以下参数

参数	描述
`ALIAS`	要配置 MinIO 远程层级的 MinIO 部署的 `alias`。
`TIER_NAME`	与新的 MinIO 远程存储层级关联的名称。以全部大写字母指定名称，例如 `MINIO_WARM_TIER`。此值在下一步中是必需的。
`HOSTNAME`	MinIO 存储后端的 URL 终结点。
`ACCESS_KEY`	MinIO 用于访问存储桶的访问密钥。访问密钥必须对应于具有所需权限的 IAM 用户。
`SECRET_KEY`	指定的 `ACCESS_KEY` 的相应密钥。
`BUCKET`	远程 MinIO 部署上存储桶的名称，`SOURCE` 将对象转换到该存储桶。
`PREFIX`	MinIO 将对象转换到其中的存储桶中的可选前缀。 MinIO 将所有转换后的对象存储在指定的 `BUCKET` 中，位于每个部署的唯一前缀值下。省略此参数仅使用该值来隔离和组织远程存储中的数据。 MinIO 建议为包含其他数据的远程存储层级指定此可选前缀，包括来自其他 MinIO 部署的转换后的对象。此前缀应提供一个清晰的引用，返回到源 MinIO 部署，以方便与诊断、维护或灾难恢复相关的操作。
`STORAGE_CLASS`	MinIO 应用于转换到远程 MinIO 存储桶的对象的纠删码存储类。指定以下支持的存储类之一 `STANDARD` 推荐 `REDUCED`
`REGION`	指定的 `BUCKET` 的 MinIO 区域。 MinIO 部署通常不需要在设置过程中设置区域。仅在您明确设置部署的 `MINIO_SITE_REGION` 配置设置时才包含此选项。

3) 创建和应用转换规则

使用 mc ilm rule add 命令为存储桶创建一个新的转换规则。以下示例配置了在指定日历天数后进行转换

mc ilm rule add ALIAS/BUCKET \
--transition-tier TIERNAME \
--transition-days DAYS \
--noncurrent-transition-days NONCURRENT_DAYS
--noncurrent-transition-tier TIERNAME

上面的示例指定了以下参数

参数	描述
`ALIAS`	指定您要为其创建生命周期管理规则的 MinIO 部署的 `alias`。
`BUCKET`	指定您要为其创建生命周期管理规则的存储桶的完整路径。
`TIERNAME`	MinIO 将对象转换到的远程存储层。指定在先前步骤中创建的远程存储层名称。如果您希望将非当前对象版本转换到不同的远程层，请为 `--noncurrent-transition-tier` 指定不同的层名称。
`DAYS`	MinIO 将对象标记为符合转换条件的日历天数。将天数指定为整数，例如 `30` 表示 30 天。
`NONCURRENT_DAYS`	MinIO 将非当前对象版本标记为符合转换条件的日历天数。MinIO 特别测量对象变为非当前状态的时间，而不是对象创建时间。将天数指定为整数，例如 `90` 表示 90 天。省略此值以忽略非当前对象版本。此选项对非版本化存储桶无效。

4) 验证转换规则

使用 mc ilm rule ls 命令查看已配置的转换规则

mc ilm rule ls ALIAS/PATH --transition

将 ALIAS 替换为 MinIO 部署的 alias。
将 PATH 替换为要检索已配置生命周期管理规则的存储桶的名称。