文档

将事件发布到 PostgreSQL

MinIO 支持将存储桶通知事件发布到PostgreSQL。MinIO 仅支持 PostgreSQL 9.5 及更高版本。

向 MinIO 部署添加 PostgreSQL 端点

以下过程添加了一个新的 PostgreSQL 服务端点,用于支持 MinIO 部署中的存储桶通知

先决条件

PostgreSQL 9.5 及更高版本

MinIO 依赖于 PostgreSQL 9.5 中引入的功能。

MinIO mc 命令行工具

此过程使用mc命令行工具执行某些操作。有关安装说明,请参阅mc 快速入门

1) 将 PostgreSQL 端点添加到 MinIO

您可以使用环境变量或通过设置运行时配置设置来配置新的 PostgreSQL 服务端点。

MinIO 支持使用环境变量来指定 PostgreSQL 服务端点和相关配置设置。minio server 进程在其下一次启动时应用指定的设置。

以下示例代码设置了与配置 PostgreSQL 服务端点相关的所有环境变量。 最小必需变量是

set MINIO_NOTIFY_POSTGRES_ENABLE_<IDENTIFIER>="on"
set MINIO_NOTIFY_POSTGRES_CONNECTION_STRING_<IDENTIFIER>="host=postgresql-endpoint.example.net port=4222"
set MINIO_NOTIFY_POSTGRES_TABLE_<IDENTIFIER>="minioevents"
set MINIO_NOTIFY_POSTGRES_FORMAT_<IDENTIFIER>="namespace|access"
set MINIO_NOTIFY_POSTGRES_MAX_OPEN_CONNECTIONS_<IDENTIFIER>="2"
set MINIO_NOTIFY_POSTGRES_QUEUE_DIR_<IDENTIFIER>="/opt/minio/events"
set MINIO_NOTIFY_POSTGRES_QUEUE_LIMIT_<IDENTIFIER>="100000"
set MINIO_NOTIFY_POSTGRES_COMMENT_<IDENTIFIER>="PostgreSQL Notification Event Logging for MinIO"
  • <IDENTIFIER>替换为 PostgreSQL 服务端点的唯一描述性字符串。 为与新的目标服务端点相关的所有环境变量使用相同的<IDENTIFIER>值。 以下示例假设标识符为PRIMARY

    如果指定的<IDENTIFIER>与 MinIO 部署中现有的 PostgreSQL 服务端点匹配,则新设置将覆盖该端点的任何现有设置。 使用mc admin config get notify_postgres查看 MinIO 部署中当前配置的 PostgreSQL 端点。

  • <ENDPOINT>替换为 PostgreSQL 服务端点的PostgreSQL 连接字符串。 MinIO 支持连接字符串的key=value格式。 例如

    "host=https://postgresql.example.com port=5432 ..."

    有关支持的 PostgreSQL 连接字符串参数的更完整文档,请参阅PostgreSQL 连接字符串

有关每个环境变量的完整文档,请参阅用于 Bucket 通知 的 PostgreSQL 服务

MinIO 支持使用mc admin config set命令和notify_postgres配置键在运行的minio server进程上添加或更新 PostgreSQL 端点。 您必须重新启动minio server进程才能应用任何新的或更新的配置设置。

以下示例代码设置了与配置 PostgreSQL 服务端点相关的所有设置。 最小必需设置是

mc admin config set ALIAS/ notify_postgres:IDENTIFIER \
   connection_string="ENDPOINT" \
   table="<string>" \
   format="<string>" \
   max_open_connections="<string>" \
   queue_dir="<string>" \
   queue_limit="<string>" \
   comment="<string>"
  • IDENTIFIER替换为 PostgreSQL 服务端点的唯一描述性字符串。 此过程中的以下示例假设标识符为PRIMARY

    如果指定的IDENTIFIER与 MinIO 部署中现有的 PostgreSQL 服务端点匹配,则新设置将覆盖该端点的任何现有设置。 使用mc admin config get notify_postgres查看 MinIO 部署中当前配置的 PostgreSQL 端点。

  • <ENDPOINT>替换为 PostgreSQL 服务端点的PostgreSQL URI 连接字符串。 MinIO 支持 PostgreSQL 连接字符串的key=value格式。 例如

    "host=https://postgresql.example.com port=5432 ..."

    有关支持的 PostgreSQL 连接字符串参数的更完整文档,请参阅PostgreSQL 连接字符串

有关每个设置的完整文档,请参阅PostgreSQL Bucket 通知配置设置

2) 重新启动 MinIO 部署

您必须重新启动 MinIO 部署才能应用配置更改。 使用mc admin service restart命令重新启动部署。

mc admin service restart ALIAS

ALIAS替换为要重新启动的部署的别名

minio server 进程在启动时为每个配置的 PostgreSQL 目标打印一行,类似于以下内容

SQS ARNs: arn:minio:sqs::primary:postgresql

在使用关联的 PostgreSQL 部署作为目标配置 Bucket 通知时,您必须指定 ARN 资源。

识别 Bucket 通知 的 ARN

您之前在创建端点时定义了要分配给 Bucket 通知目标 ARN 的<IDENTIFIER>。 以下步骤返回部署上配置的 ARN。 通过查找您指定的<IDENTIFIER>来识别之前创建的 ARN。

查看 JSON 输出

  1. 复制并运行以下命令,将ALIAS替换为部署的别名

    mc admin info --json ALIAS
    
  2. 在 JSON 输出中,查找键info.sqsARN

    您需要的 ARN 是与您指定的<IDENTIFIER>匹配的该键的值。

    例如,arn:minio:sqs::primary:postgresql

使用 jq 解析 JSON 以获取值

  1. 安装 jq

  2. 复制并运行以下命令,将ALIAS替换为部署的别名

    mc admin info --json ALIAS | jq  .info.sqsARN
    

    这将返回用于通知的 ARN,例如arn:minio:sqs::primary:postgresql

3) 使用 PostgreSQL 端点作为目标配置 Bucket 通知

使用mc event add命令添加一个新的 Bucket 通知事件,并将配置的 PostgreSQL 服务作为目标

mc event add ALIAS/BUCKET arn:minio:sqs::primary:postgresql \
  --event EVENTS
  • ALIAS替换为 MinIO 部署的别名

  • BUCKET替换为要在其中配置事件的 Bucket 的名称。

  • EVENTS替换为 MinIO 触发通知的事件的逗号分隔列表。

使用mc event ls查看给定通知目标的所有配置的 Bucket 事件

mc event ls ALIAS/BUCKET arn:minio:sqs::primary:postgresql

4) 验证配置的事件

对您为其配置新事件的 Bucket 执行操作,并在 PostgreSQL 服务中检查通知数据。 所需的操作取决于在配置 Bucket 通知时指定的事件

例如,如果 Bucket 通知配置包含s3:ObjectCreated:Put事件,则可以使用mc cp命令在 Bucket 中创建新对象并触发通知。

mc cp ~/data/new-object.txt ALIAS/BUCKET

更新 MinIO 部署中的 PostgreSQL 端点

以下过程更新现有的 PostgreSQL 服务端点,以支持 MinIO 部署中的Bucket 通知

先决条件

PostgreSQL 9.5 及更高版本

MinIO 依赖于 PostgreSQL 9.5 中引入的功能。

MinIO mc 命令行工具

此过程使用mc命令行工具执行某些操作。有关安装说明,请参阅mc 快速入门

1) 列出部署中配置的 PostgreSQL 端点

使用mc admin config get命令列出部署中当前配置的 PostgreSQL 服务端点

mc admin config get ALIAS/ notify_postgres

ALIAS替换为 MinIO 部署的别名

命令输出类似以下内容

notify_postgres:primary queue_dir="" connection_string="postgresql://" queue_limit="0"  table="" format="namespace"
notify_postgres:secondary queue_dir="" connection_string="" queue_limit="0"  table="" format="namespace"

notify_postgres 密钥是 PostgreSQL 通知设置 的顶级配置密钥。 connection_string 密钥指定给定 notify_postgres 密钥的 PostgreSQL 服务端点。 notify_postgres:<IDENTIFIER> 后缀描述该 PostgreSQL 服务端点的唯一标识符。

请注意您要更新的 PostgreSQL 服务端点的标识符,以便于后续步骤。

2) 更新 PostgreSQL 端点

使用 mc admin config set 命令设置 PostgreSQL 服务端点的新的配置。

mc admin config set ALIAS/ notify_postgres:IDENTIFIER \
   connection_string="ENDPOINT" \
   table="<string>" \
   format="<string>" \
   max_open_connections="<string>" \
   queue_dir="<string>" \
   queue_limit="<string>" \
   comment="<string>"

以下配置设置是 PostgreSQL 服务端点所需的**最低**配置。

所有其他配置设置都是**可选的**。有关 PostgreSQL 配置设置的完整列表,请参阅 PostgreSQL 通知设置

3) 重启 MinIO 部署

您必须重新启动 MinIO 部署才能应用配置更改。 使用mc admin service restart命令重新启动部署。

mc admin service restart ALIAS

ALIAS替换为要重新启动的部署的别名

minio server 进程在启动时为每个配置的 PostgreSQL 目标打印一行,类似于以下内容

SQS ARNs: arn:minio:sqs::primary:postgresql

4) 验证更改

对使用更新后的 PostgreSQL 服务端点的事件配置的存储桶执行操作,并在 PostgreSQL 服务中检查通知数据。所需的操作取决于配置存储桶通知时指定的 events

例如,如果 Bucket 通知配置包含s3:ObjectCreated:Put事件,则可以使用mc cp命令在 Bucket 中创建新对象并触发通知。

mc cp ~/data/new-object.txt ALIAS/BUCKET