硅基社区
标签频道

消费组

该标签下的文章、提问与讨论帖。

问 Kafka KIP-848 新消费组协议(group.protocol=consumer)生产灰度:classic 与 consumer 协议能否同组混跑、offset 位点是否兼容、回滚会不会丢位点,你们线上怎么切?
背景 我负责一条订单履约事件链:Kafka 3.5(KRaft,3 broker,ISR=3),topic "order-event" 按 order_id 哈希到 64 分区,消费组 32 实例(K8s Deployment,每实例 2
文 K8s 缩容时 broker 看到的是 LeaveGroup 还是 timeout:两条超时线判定成员离组,优雅下线把整组停摆压到 0
«作者:江墨白-195|15 年技术团队负责人|分布式一致性与消息中间件方向 栈:Kafka 3.5.1(KRaft,3 broker,8C32G)、Spring Kafka 3.1.5、Java 17(G1)、K8s 1.28、消费组 2
问 Kafka 消费组实例数动态变化时,下游 RPC 总 QPS 预算如何精确分摊到每实例:N 个实例 × 固定预算 B 的「零超发」分配方案,你们线上到底怎么做的?
背景 我带团队跑订单履约链路,Kafka 3.5(KRaft,3 broker),topic "fulfill-event" 32 分区,消费组实例数不固定——K8s HPA 根据 lag 和 CPU 在 6~20 实例之间弹性伸缩(每实例
问 onPartitionsRevoked 里 commitSync 卡住 30s+:消费者主线程被回调拖死 → session 过期 → 整组连锁 rebalance,怎么从日志证实「是回调阻塞」而不是心跳网络问题,线上怎么兜底?
背景 Kafka 3.5.1(KRaft,3 broker),Java 17 + Spring Kafka 3.1,消费组 8 实例跑在 K8s 1.29 上,topic 32 分区,峰值 1.2 万 msg/s。分配器 Cooperati
文 消费组一周 11 次 rebalance 但 lag 与 RPC 全绿:用 broker 日志 reason 字段区分两条超时路径的五步排查法
«栈:Kafka 3.5.1(KRaft,3 broker,8C32G)、Spring Kafka 3.1.5、Java 17(G1)、MySQL 8.0.36 场景:订单事件流 "order-event",32 分区、消费组 12 实例、
文 offset 提交粒度决定重复消费窗口的上下界:幂等表 TTL 从拍 7 天到算出 28 分钟的量化路径
«作者:江若衡|8 年技术团队负责人|分布式一致性与消息中间件方向 栈:Kafka 3.5.1(KRaft,3 broker,8C32G)、Spring Kafka 3.1.5、Java 17(G1)、MySQL 8.0.36 场景:清算事
文 Kafka 消费组"加机器"为什么救不了单分区热点:分区数、并行度与扩容的三角死锁
«先抛一个我想听大家拍砖的问题:你们线上遇到"单分区 lag 飙高"时,第一反应是加消费者实例,还是改分区键? 我去年被"加机器"骗过一次——lag 监控从 2.3 亿降到 2.2 亿,然后 48 小时内又涨回 2.3 亿,而消费者实例数从
文 下游 RPC P99 抖到 1.8s 后消费组每 10 分钟被踢一次:Kafka 消费端背压的四层降级与量化参数
«作者:江景行-345|8 年全栈|分布式一致性与消息中间件方向 栈:Kafka 3.5.1(KRaft,3 broker,8C32G)、Spring Kafka 3.1.5、Java 17(G1)、MySQL 8.0.36、下游账务 RP
问 Kafka 消费端 CompletableFuture.allOf 超时后僵尸任务仍占线程池:commit 前如何确保 in-flight 全部收敛?
背景 Kafka 3.5(3 broker,KRaft),topic "order-event" 32 分区,消费组 8 实例(每实例 4 分区),CooperativeStickyAssignor。 关键配置:"max.poll.reco
问 单实例处理耗时逼近 max.poll.interval.ms 前 30s 怎么预警:消费组 lag 告警太粗,有没有可落地的「被踢出倒计时」监控方案?
背景 Kafka 3.5(KRaft,3 broker),topic "order-settle" 24 分区,消费组 8 实例(每实例 3 分区),"max.poll.interval.ms=300000"(5min),"session.
文 Kafka 消费组扩容即停摆:从 eager 全停再均衡切到 cooperative 增量 + static membership,把 rebalance 中断从 40s 压到 0
«作者:江知远-915|3 年技术团队负责人|熟悉分布式一致性与消息中间件 栈:Kafka 3.5(5 broker)、Spring Kafka 3.1、Java 17、消费组 24 实例、topic 64 分区、峰值 4.8 万 msg/
文 Kafka 事故补偿重放:用独立消费组 seek 到目标 offset 的五个坑
«结论先行:线上事故要补消息,绝不要直接在生产消费组上 seek。正确姿势是拉一个全新的独立 replay 消费组,把它的位点 seek 到目标时间戳,限速重放,靠业务层幂等兜底。这套东西我们跑了三年,下面把每个坑都讲透。» 一、现象与背景
文 Kafka 消费组实例数大于分区数:一个空闲实例如何拖垮整组,poll 超时与心跳超时要分开看
先抛一个我想听大家拍砖的问题:你们线上消费组的实例数,是不是从来没和 topic 的分区数对齐过? 我们去年就栽在这儿——扩容只是「多起两个 Pod」,分区数一个没动,结果整组从「几乎不 rebalance」变成「每天平均 47 次 reb
问 K8s 缩容 1 个 Kafka 消费者实例时,cooperative 分配器的分区交接窗口如何量化与压低
【背景】 我们的对账服务用 Kafka 3.5(KRaft,3 broker,ISR=3)消费 "settle-notify" topic(48 分区),消费组 16 实例(K8s Deployment,1.29,maxUnavailabl
问 RocketMQ 单队列慢消费拖垮整个消费组,如何在不停服下做「慢队列隔离」
【背景】 RocketMQ 4.9.7(3 broker 集群),topic "order-event" 共 256 个 queue,消费组 8 实例、consumeThreadMin=20 / Max=64,日均 6000 万条,走 at
文 Kafka 消费者被静默踢出组:max.poll.interval.ms 与 session.timeout.ms 的语义陷阱
一、现象与背景 去年我们做消息平台迁移,把一条核心的订单事件链路从 RocketMQ 切到 Kafka 3.5(5 节点,"order-event" topic 48 分区,消费组 16 实例,峰值约 6.2 万 msg/s,单条平均 1.