Skip to main content
Metrics 是系统可观测非常重要的分析数据。AutoMQ 支持通过 Prometheus 透出原生 Apache Kafka 的多项 Metrics 数据。本文介绍 AutoMQ 透出的 Metrics 明细。

Metrics 采集方式

AutoMQ 通过以下两种方式提供 Prometheus 兼容的监控能力:
  1. Remote Write: AutoMQ 将 Metrics 直接推送到用户提供的 Prometheus Remote Write Endpoint。创建或更新实例时配置 Endpoint 和身份验证信息。
  2. Exporter: AutoMQ 提供 Prometheus 兼容的拉取 Endpoint,由用户的监控系统定期采集。
Exporter 的服务发现方式取决于部署平台:
  • Kubernetes 部署: 使用 Kubernetes 资源上的标准 Prometheus Annotation 发现采集 Endpoint。
  • 虚拟机部署: 使用云厂商提供的主机 Tag 发现目标主机。
两种方式均提供 Metrics 采集和传输能力。用户需要在自己的 Prometheus 兼容监控系统中配置仪表盘和告警。AutoMQ 同时提供 Grafana 仪表盘模板和 Prometheus 告警规则模板。

Prometheus Metrics 定义

指标名称、Label 和详细定义请参见开源版文档中的 Prometheus Metrics。

Grafana 仪表盘示例

如上文所述, AutoMQ Cloud 暂不提供托管的 Grafana 仪表盘服务,用户参考AutoMQ 提供的 Grafana 模板快速配置仪表盘,相关仪表盘模板请前往此处链接下载。 预置的 Grafana 大盘模板提供了不同维度的指标监控:
  • Cluster Overview: 提供了集群维度的监控,包括节点数量、数据大小、集群流量等,以及Topic、Group、Broker 维度的指标概览,并提供了下钻功能,可跳转至对应的详情监控
  • Broker Metrics: 提供了 Broker 维度的监控,包括连接数量、分区数量、节点流量、节点请求等
  • Topic Metrics: 提供了 Topic 维度的指标监控,包括消息吞吐、数据总量、分区数量、消费延迟等
  • Group Metrics: 提供了 Group 维度的指标监控,包括消费速率和消费延迟

业务监控报警

将 AutoMQ Metrics 接入 Prometheus 后,可按业务需要配置集群容量、Topic 写入和 Consumer time lag 告警。

Kafka 集群报警模板

这些规则是面向业务的 Prometheus 告警模板。选择需要关注的规则,并按业务流量和时效要求调整筛选条件、阈值及持续时间。 Prometheus 负责评估规则,Alertmanager 负责通知路由。使用前请确认当前部署会输出规则使用的指标。不同部署和版本的指标与标签可能不同。下例假设 job 表示集群;如果 job 表示采集任务,请改用实际的集群标识标签。

Prometheus 规则示例

模板默认匹配所有非空 Topic 和 Consumer group。请按需调整 topic、group 筛选条件和比较阈值,以匹配需要监控的资源和业务。
配置通知路由前,先用实际指标验证表达式。指标缺失或昨日同一时刻没有数据,都不会满足上述比较;如果需要监控采集链路,请另设指标缺失告警。

Managed Connector 报警模板

AutoMQ 针对 Managed Connector 场景同样提供了一系列报警模板,用于监控 Connector 任务状态、资源使用和数据处理异常等情况。 报警规则模板列表如下: 完整的报警模板 yaml 文件参考下方,可以用于复制导入。
使用 Managed Connector 报警模板时,请将 <your-connect-instance-id> 和 <your-connector-name> 替换为实际的 Connect 实例 ID 和 Connector 名称。