文档

将事件发布到 PostgreSQL

MinIO 支持将bucket 通知事件发布到PostgreSQL。MinIO *仅*支持 PostgreSQL 9.5 及更高版本。

以下过程添加了一个新的 PostgreSQL 服务端点,用于在 MinIO 部署中支持bucket 通知

MinIO 依赖于 PostgreSQL 9.5 中引入的功能。

此过程使用mc命令行工具执行某些操作。有关安装说明,请参阅mc快速入门

您可以使用环境变量*或*设置运行时配置设置来配置新的 PostgreSQL 服务端点。

MinIO 支持使用环境变量指定 PostgreSQL 服务端点和相关的配置设置。minio server 进程在其下次启动时应用指定的设置。

以下示例代码设置了与配置 PostgreSQL 服务端点相关的所有环境变量。最小的必需变量是

set MINIO_NOTIFY_POSTGRES_ENABLE_<IDENTIFIER>="on"
set MINIO_NOTIFY_POSTGRES_CONNECTION_STRING_<IDENTIFIER>="host=postgresql-endpoint.example.net port=4222"
set MINIO_NOTIFY_POSTGRES_TABLE_<IDENTIFIER>="minioevents"
set MINIO_NOTIFY_POSTGRES_FORMAT_<IDENTIFIER>="namespace|access"
set MINIO_NOTIFY_POSTGRES_MAX_OPEN_CONNECTIONS_<IDENTIFIER>="2"
set MINIO_NOTIFY_POSTGRES_QUEUE_DIR_<IDENTIFIER>="/opt/minio/events"
set MINIO_NOTIFY_POSTGRES_QUEUE_LIMIT_<IDENTIFIER>="100000"
set MINIO_NOTIFY_POSTGRES_COMMENT_<IDENTIFIER>="PostgreSQL Notification Event Logging for MinIO"
  • <IDENTIFIER>替换为 PostgreSQL 服务端点的唯一描述性字符串。对与新目标服务端点相关的所有环境变量使用相同的<IDENTIFIER>值。以下示例假设标识符为PRIMARY

    如果指定的<IDENTIFIER>与 MinIO 部署中现有的 PostgreSQL 服务端点匹配,则新设置将覆盖该端点的任何现有设置。使用mc admin config get notify_postgres查看 MinIO 部署中当前配置的 PostgreSQL 端点。

  • <ENDPOINT>替换为 PostgreSQL 服务端点的PostgreSQL 连接字符串。MinIO 支持key=value格式的连接字符串。例如

    "host=https://postgresql.example.com port=5432 ..."

    有关支持的 PostgreSQL 连接字符串参数的更完整文档,请参阅PostgreSQL 连接字符串

有关每个环境变量的完整文档,请参阅用于存储桶通知的 PostgreSQL 服务

MinIO 支持使用mc admin config set命令和notify_postgres配置键在正在运行的minio server进程上添加或更新 PostgreSQL 端点。必须重新启动minio server进程以应用任何新的或更新的配置设置。

以下示例代码设置了与配置 PostgreSQL 服务端点相关的所有设置。最小的必需设置是

mc admin config set ALIAS/ notify_postgres:IDENTIFIER \
   connection_string="ENDPOINT" \
   table="<string>" \
   format="<string>" \
   max_open_connections="<string>" \
   queue_dir="<string>" \
   queue_limit="<string>" \
   comment="<string>"
  • IDENTIFIER替换为 PostgreSQL 服务端点的唯一描述性字符串。此过程中的以下示例假设标识符为PRIMARY

    如果指定的IDENTIFIER与 MinIO 部署中现有的 PostgreSQL 服务端点匹配,则新设置将覆盖该端点的任何现有设置。使用mc admin config get notify_postgres查看 MinIO 部署中当前配置的 PostgreSQL 端点。

  • <ENDPOINT>替换为 PostgreSQL 服务端点的PostgreSQL URI 连接字符串。MinIO 支持key=value格式的 PostgreSQL 连接字符串。例如

    "host=https://postgresql.example.com port=5432 ..."

    有关支持的 PostgreSQL 连接字符串参数的更完整文档,请参阅PostgreSQL 连接字符串

有关每个设置的完整文档,请参阅PostgreSQL 存储桶通知配置设置

必须重新启动 MinIO 部署以应用配置更改。使用mc admin service restart命令重新启动部署。

mc admin service restart ALIAS

ALIAS替换为要重新启动的部署的别名

minio server 进程在启动时为每个配置的 PostgreSQL 目标打印一行,类似于以下内容

SQS ARNs: arn:minio:sqs::primary:postgresql

必须在将关联的 PostgreSQL 部署配置为目标时,指定存储桶通知的 ARN 资源。

识别存储桶通知的 ARN

在之前创建端点时,您定义了要分配给存储桶通知的目标 ARN 的<IDENTIFIER>。以下步骤返回部署上配置的 ARN。通过查找您指定的<IDENTIFIER>来识别之前创建的 ARN。

查看 JSON 输出

  1. 复制并运行以下命令,将ALIAS替换为部署的别名

    mc admin info --json ALIAS
    
  2. 在 JSON 输出中,查找键info.sqsARN

    您需要的 ARN 是与您指定的<IDENTIFIER>匹配的该键的值。

    例如,arn:minio:sqs::primary:postgresql

使用 jq 解析 JSON 以获取值

  1. 安装 jq

  2. 复制并运行以下命令,将ALIAS替换为部署的别名

    mc admin info --json ALIAS | jq  .info.sqsARN
    

    这将返回用于通知的 ARN,例如arn:minio:sqs::primary:postgresql

使用mc event add命令添加一个新的存储桶通知事件,并将配置的 PostgreSQL 服务作为目标

mc event add ALIAS/BUCKET arn:minio:sqs::primary:postgresql \
  --event EVENTS
  • ALIAS替换为 MinIO 部署的别名

  • BUCKET替换为要在其中配置ß事件的存储桶的名称。

  • EVENTS替换为 MinIO 触发通知的事件的逗号分隔列表。

使用mc event ls查看给定通知目标的所有配置的存储桶事件

mc event ls ALIAS/BUCKET arn:minio:sqs::primary:postgresql

对您为其配置了新事件的存储桶执行操作,并在 PostgreSQL 服务中检查通知数据。所需的操作取决于配置存储桶通知时指定的事件

例如,如果存储桶通知配置包含s3:ObjectCreated:Put事件,则可以使用mc cp命令在存储桶中创建新对象并触发通知。

mc cp ~/data/new-object.txt ALIAS/BUCKET

以下过程更新现有的 PostgreSQL 服务端点,以便在 MinIO 部署中支持存储桶通知

MinIO 依赖于 PostgreSQL 9.5 中引入的功能。

此过程使用mc命令行工具执行某些操作。有关安装说明,请参阅mc快速入门

使用mc admin config get 命令列出部署中当前已配置的 PostgreSQL 服务端点

mc admin config get ALIAS/ notify_postgres

ALIAS 替换为 MinIO 部署的别名

命令输出类似如下所示

notify_postgres:primary queue_dir="" connection_string="postgresql://" queue_limit="0"  table="" format="namespace"
notify_postgres:secondary queue_dir="" connection_string="" queue_limit="0"  table="" format="namespace"

notify_postgres 密钥是 PostgreSQL 通知设置 的顶级配置密钥。 connection_string 密钥指定给定 notify_postgres 密钥的 PostgreSQL 服务端点。 notify_postgres:<IDENTIFIER> 后缀描述该 PostgreSQL 服务端点的唯一标识符。

请注意要更新的 PostgreSQL 服务端点的标识符,以便在下一步中使用。

使用mc admin config set 命令设置 PostgreSQL 服务端点的新配置

mc admin config set ALIAS/ notify_postgres:IDENTIFIER \
   connection_string="ENDPOINT" \
   table="<string>" \
   format="<string>" \
   max_open_connections="<string>" \
   queue_dir="<string>" \
   queue_limit="<string>" \
   comment="<string>"

以下配置设置是 PostgreSQL 服务端点的最低要求

所有其他配置设置都是可选的。有关 PostgreSQL 配置设置的完整列表,请参阅PostgreSQL 通知设置

必须重新启动 MinIO 部署以应用配置更改。使用mc admin service restart命令重新启动部署。

mc admin service restart ALIAS

ALIAS替换为要重新启动的部署的别名

minio server 进程在启动时为每个配置的 PostgreSQL 目标打印一行,类似于以下内容

SQS ARNs: arn:minio:sqs::primary:postgresql

对使用更新的 PostgreSQL 服务端点的事件配置的存储桶执行操作,并在 PostgreSQL 服务中检查通知数据。所需的操作取决于配置存储桶通知时指定的事件

例如,如果存储桶通知配置包含s3:ObjectCreated:Put事件,则可以使用mc cp命令在存储桶中创建新对象并触发通知。

mc cp ~/data/new-object.txt ALIAS/BUCKET