Kafka 消费者组 Rebalance 风暴预防与调优 Checklist：如何避免频繁 Rebalance 与数据丢失？

背景 我们有一个 Kafka 消费者组，消费的是 order-event topic，该 topic 有 24 个分区，消费组 8 个实例。最近在流量高峰期间，出现了多次 Rebalance 风暴，导致消息处理延迟甚至丢失。

现象

1. Rebalance 频繁：每 5–10 分钟就发生一次，单次 Rebalance 持续 30–60 秒，导致消费进度滞后
2. 数据丢失风险：在 Rebalance 过程中，部分消息未被处理，经排查发现消费者实例在 Rebalance 期间未订阅新分区
3. 资源浪费：频繁 Rebalance 导致 CPU 使用率飙升至 85%，内存占用增加 30%

已尝试的排查与结果

• 检查 session.timeout.ms 和 heartbeat.interval.ms 配置，发现设置为 10s/3s（符合默认值）
• 验证消费者组 max.poll.records 设置为 1000，未发现批量拉取异常
• 使用 kafka-consumer-groups.sh 工具检查分区分配状态，发现分区分配不均（3 个分区被 2 个实例独占）
• 查看 broker 端日志，发现无明显异常

期望答案形态

1. 预防 Rebalance 风暴的 Checklist（含具体参数配置建议）
2. Rebalance 期间数据丢失的防护方案（如幂等消费、消息补偿机制）
3. 自动化监控与告警策略（含 JMX 指标、Prometheus 报警规则示例）
4. 自愈方案（如动态调整消费者数量、自动重启异常实例）

引用依据

• Kafka 消费者组 Rebalance 风暴排查手册（已读过该内容，但希望获得更具体的调优方案）