将事件发布到 PostgreSQL
MinIO 支持将存储桶通知事件发布到PostgreSQL。MinIO 仅支持 PostgreSQL 9.5 及更高版本。
将 PostgreSQL 端点添加到 MinIO 部署
以下步骤添加了新的 PostgreSQL 服务端点,以支持 MinIO 部署中的存储桶通知。
先决条件
PostgreSQL 9.5 及更高版本
MinIO 依赖于 PostgreSQL 9.5 中引入的功能。
MinIO mc
命令行工具
1) 将 PostgreSQL 端点添加到 MinIO
您可以使用环境变量或运行时配置设置来配置新的 PostgreSQL 服务端点。
MinIO 支持使用环境变量 指定 PostgreSQL 服务端点和相关配置设置。在下次启动时,minio server
进程会应用指定的设置。
以下示例代码设置了与配置 PostgreSQL 服务端点相关的所有环境变量。必需的最小变量是
set MINIO_NOTIFY_POSTGRES_ENABLE_<IDENTIFIER>="on"
set MINIO_NOTIFY_POSTGRES_CONNECTION_STRING_<IDENTIFIER>="host=postgresql-endpoint.example.net port=4222"
set MINIO_NOTIFY_POSTGRES_TABLE_<IDENTIFIER>="minioevents"
set MINIO_NOTIFY_POSTGRES_FORMAT_<IDENTIFIER>="namespace|access"
set MINIO_NOTIFY_POSTGRES_MAX_OPEN_CONNECTIONS_<IDENTIFIER>="2"
set MINIO_NOTIFY_POSTGRES_QUEUE_DIR_<IDENTIFIER>="/opt/minio/events"
set MINIO_NOTIFY_POSTGRES_QUEUE_LIMIT_<IDENTIFIER>="100000"
set MINIO_NOTIFY_POSTGRES_COMMENT_<IDENTIFIER>="PostgreSQL Notification Event Logging for MinIO"
将
<IDENTIFIER>
替换为 PostgreSQL 服务端点的唯一描述性字符串。对与新目标服务端点相关的所有环境变量使用相同的<IDENTIFIER>
值。以下示例假定标识符为PRIMARY
。如果指定的
<IDENTIFIER>
与 MinIO 部署中现有的 PostgreSQL 服务端点匹配,则新设置将覆盖该端点的任何现有设置。使用mc admin config get notify_postgres
查看 MinIO 部署中当前配置的 PostgreSQL 端点。用
<ENDPOINT>
替换 PostgreSQL 服务端点的 PostgreSQL 连接字符串。MinIO 支持key=value
格式的连接字符串。例如"host=https://postgresql.example.com port=5432 ..."
有关支持的 PostgreSQL 连接字符串参数的更完整文档,请参阅 PostgreSQL 连接字符串。
有关每个环境变量的完整文档,请参阅 用于桶通知的 PostgreSQL 服务。
MinIO 支持使用 mc admin config set
命令和 notify_postgres
配置键,在运行的 minio server
进程上添加或更新 PostgreSQL 端点。您必须重新启动 minio server
进程以应用任何新的或更新的配置设置。
以下示例代码设置了与配置 PostgreSQL 服务端点相关的所有设置。必需的最小设置是
mc admin config set ALIAS/ notify_postgres:IDENTIFIER \
connection_string="ENDPOINT" \
table="<string>" \
format="<string>" \
max_open_connections="<string>" \
queue_dir="<string>" \
queue_limit="<string>" \
comment="<string>"
用
IDENTIFIER
替换 PostgreSQL 服务端点的唯一描述性字符串。本过程中的以下示例假设标识符为PRIMARY
。如果指定的
IDENTIFIER
与 MinIO 部署中现有的 PostgreSQL 服务端点匹配,则新设置将覆盖该端点的任何现有设置。使用mc admin config get notify_postgres
查看当前配置的 MinIO 部署中的 PostgreSQL 端点。用
<ENDPOINT>
替换 PostgreSQL 服务端点的 PostgreSQL URI 连接字符串。MinIO 支持key=value
格式的 PostgreSQL 连接字符串。例如"host=https://postgresql.example.com port=5432 ..."
有关支持的 PostgreSQL 连接字符串参数的更完整文档,请参阅 PostgreSQL 连接字符串。
有关每个设置的完整文档,请参阅 PostgreSQL 桶通知配置设置。
2) 重新启动 MinIO 部署
您必须重新启动 MinIO 部署以应用配置更改。使用 mc admin service restart
命令重新启动部署。
mc admin service restart ALIAS
用 ALIAS
替换要重新启动的部署的 别名。
在启动时,minio server
进程将为每个配置的 PostgreSQL 目标打印一行,类似于以下内容
SQS ARNs: arn:minio:sqs::primary:postgresql
您必须在使用关联的 PostgreSQL 部署作为目标配置桶通知时指定 ARN 资源。
识别桶通知的 ARN
您之前在创建端点时定义了 <IDENTIFIER>
以分配给桶通知的目标 ARN。以下步骤将返回部署上配置的 ARN。通过查找您指定的 <IDENTIFIER>
来识别之前创建的 ARN。
查看 JSON 输出
复制并运行以下命令,用
ALIAS
替换部署的 别名。mc admin info --json ALIAS
在 JSON 输出中,查找键
info.sqsARN
。您需要的 ARN 是与您指定的
<IDENTIFIER>
匹配的该键的值。例如,
arn:minio:sqs::primary:postgresql
。
使用 jq 解析 JSON 获取该值
3) 使用 PostgreSQL 端点作为目标配置桶通知
使用 mc event add
命令添加一个新的桶通知事件,并将配置的 PostgreSQL 服务作为目标
mc event add ALIAS/BUCKET arn:minio:sqs::primary:postgresql \
--event EVENTS
使用 mc event ls
查看为给定通知目标配置的所有桶事件
mc event ls ALIAS/BUCKET arn:minio:sqs::primary:postgresql
4) 验证配置的事件
对您为其配置了新事件的桶执行操作,然后检查 PostgreSQL 服务以获取通知数据。所需操作取决于配置桶通知时指定的 事件
。
例如,如果桶通知配置包含 s3:ObjectCreated:Put
事件,您可以使用 mc cp
命令在桶中创建新对象并触发通知。
mc cp ~/data/new-object.txt ALIAS/BUCKET
更新 MinIO 部署中的 PostgreSQL 端点
以下过程更新了现有的 PostgreSQL 服务端点,以支持 MinIO 部署中的 桶通知。
先决条件
PostgreSQL 9.5 及更高版本
MinIO 依赖于 PostgreSQL 9.5 中引入的功能。
MinIO mc
命令行工具
1) 列出部署中配置的 PostgreSQL 端点
使用 mc admin config get
命令列出部署中当前配置的 PostgreSQL 服务端点
mc admin config get ALIAS/ notify_postgres
用 ALIAS
替换 MinIO 部署的 别名。
命令输出类似于以下内容
notify_postgres:primary queue_dir="" connection_string="postgresql://" queue_limit="0" table="" format="namespace"
notify_postgres:secondary queue_dir="" connection_string="" queue_limit="0" table="" format="namespace"
notify_postgres
键是 PostgreSQL 通知设置 的顶级配置键。connection_string
键指定了给定 notify_postgres 键的 PostgreSQL 服务端点。notify_postgres:<IDENTIFIER>
后缀描述了该 PostgreSQL 服务端点的唯一标识符。
注意要更新的 PostgreSQL 服务端点的标识符,以便于下一步使用。
2) 更新 PostgreSQL 端点
使用 mc admin config set
命令设置 PostgreSQL 服务端点的新的配置
mc admin config set ALIAS/ notify_postgres:IDENTIFIER \
connection_string="ENDPOINT" \
table="<string>" \
format="<string>" \
max_open_connections="<string>" \
queue_dir="<string>" \
queue_limit="<string>" \
comment="<string>"
以下配置设置是 PostgreSQL 服务端点的必需的最小设置
所有其他配置设置都是可选的。有关 PostgreSQL 配置设置的完整列表,请参阅 PostgreSQL 通知设置。
3) 重新启动 MinIO 部署
您必须重新启动 MinIO 部署以应用配置更改。使用 mc admin service restart
命令重新启动部署。
mc admin service restart ALIAS
用 ALIAS
替换要重新启动的部署的 别名。
在启动时,minio server
进程将为每个配置的 PostgreSQL 目标打印一行,类似于以下内容
SQS ARNs: arn:minio:sqs::primary:postgresql
4) 验证更改
对具有事件配置的存储桶执行操作,使用更新后的 PostgreSQL 服务端点,并检查 PostgreSQL 服务以获取通知数据。所需的操作取决于配置存储桶通知时指定的 events
。
例如,如果桶通知配置包含 s3:ObjectCreated:Put
事件,您可以使用 mc cp
命令在桶中创建新对象并触发通知。
mc cp ~/data/new-object.txt ALIAS/BUCKET