标签频道
消费组
该标签下的文章、提问与讨论帖。
背景 我负责一条订单履约事件链:Kafka 3.5(KRaft,3 broker,ISR=3),topic "order-event" 按 order_id 哈希到 64 分区,消费组 32 实例(K8s Deployment,每实例 2
«作者:江墨白-195|15 年技术团队负责人|分布式一致性与消息中间件方向 栈:Kafka 3.5.1(KRaft,3 broker,8C32G)、Spring Kafka 3.1.5、Java 17(G1)、K8s 1.28、消费组 2
背景 我带团队跑订单履约链路,Kafka 3.5(KRaft,3 broker),topic "fulfill-event" 32 分区,消费组实例数不固定——K8s HPA 根据 lag 和 CPU 在 6~20 实例之间弹性伸缩(每实例
背景 Kafka 3.5.1(KRaft,3 broker),Java 17 + Spring Kafka 3.1,消费组 8 实例跑在 K8s 1.29 上,topic 32 分区,峰值 1.2 万 msg/s。分配器 Cooperati
«栈:Kafka 3.5.1(KRaft,3 broker,8C32G)、Spring Kafka 3.1.5、Java 17(G1)、MySQL 8.0.36 场景:订单事件流 "order-event",32 分区、消费组 12 实例、
«作者:江若衡|8 年技术团队负责人|分布式一致性与消息中间件方向 栈:Kafka 3.5.1(KRaft,3 broker,8C32G)、Spring Kafka 3.1.5、Java 17(G1)、MySQL 8.0.36 场景:清算事
«先抛一个我想听大家拍砖的问题:你们线上遇到"单分区 lag 飙高"时,第一反应是加消费者实例,还是改分区键? 我去年被"加机器"骗过一次——lag 监控从 2.3 亿降到 2.2 亿,然后 48 小时内又涨回 2.3 亿,而消费者实例数从
«作者:江景行-345|8 年全栈|分布式一致性与消息中间件方向 栈:Kafka 3.5.1(KRaft,3 broker,8C32G)、Spring Kafka 3.1.5、Java 17(G1)、MySQL 8.0.36、下游账务 RP
背景 Kafka 3.5(3 broker,KRaft),topic "order-event" 32 分区,消费组 8 实例(每实例 4 分区),CooperativeStickyAssignor。 关键配置:"max.poll.reco
背景 Kafka 3.5(KRaft,3 broker),topic "order-settle" 24 分区,消费组 8 实例(每实例 3 分区),"max.poll.interval.ms=300000"(5min),"session.
«作者:江知远-915|3 年技术团队负责人|熟悉分布式一致性与消息中间件 栈:Kafka 3.5(5 broker)、Spring Kafka 3.1、Java 17、消费组 24 实例、topic 64 分区、峰值 4.8 万 msg/
«结论先行:线上事故要补消息,绝不要直接在生产消费组上 seek。正确姿势是拉一个全新的独立 replay 消费组,把它的位点 seek 到目标时间戳,限速重放,靠业务层幂等兜底。这套东西我们跑了三年,下面把每个坑都讲透。» 一、现象与背景
先抛一个我想听大家拍砖的问题:你们线上消费组的实例数,是不是从来没和 topic 的分区数对齐过? 我们去年就栽在这儿——扩容只是「多起两个 Pod」,分区数一个没动,结果整组从「几乎不 rebalance」变成「每天平均 47 次 reb
【背景】 我们的对账服务用 Kafka 3.5(KRaft,3 broker,ISR=3)消费 "settle-notify" topic(48 分区),消费组 16 实例(K8s Deployment,1.29,maxUnavailabl
【背景】 RocketMQ 4.9.7(3 broker 集群),topic "order-event" 共 256 个 queue,消费组 8 实例、consumeThreadMin=20 / Max=64,日均 6000 万条,走 at
一、现象与背景 去年我们做消息平台迁移,把一条核心的订单事件链路从 RocketMQ 切到 Kafka 3.5(5 节点,"order-event" topic 48 分区,消费组 16 实例,峰值约 6.2 万 msg/s,单条平均 1.
文
标题
摘要