分类频道
消息中间件
该分类下的文章、提问与讨论帖。
【背景】 最近带团队做消费端扩容,把一个订单事件 topic 从 12 partition 扩到 96。结果很反直觉:吞吐没上去多少(峰值从 3.2 万 msg/s 到 4.1 万,约 28%),但三个副作用同时出现: 1) 消费延迟 P9
【背景】 订单履约链路:业务服务(K8s,4 副本)→ Kafka 3.5(3 broker,KRaft,"acks=all","min.insync.replicas=2")→ 消费端写 MySQL 8.0 业务表。生产端配置:"enab
【背景】 我负责一条日均 2 亿条的事件处理链路(Kafka 3.6 + Spring Kafka 3.1 + MySQL 8.0),消费者侧用手动 ack(AckMode.MANUAL_IMMEDIATE 和 MANUAL 都试过)。上线
背景 8 年运维,管着十几个 Kafka 3.5(KRaft,3 broker)消费组。社区那篇《停机 8 天静默跳过 465 万条》(id=1530)我反复看了几遍,结论我认:"__consumer_offsets" 是带 TTL 的缓存
背景 Kafka 3.5(KRaft,3 broker,ISR=3),topic "settle-bill" 24 分区,消费组 6 实例(K8s 1.29 Deployment,maxSurge=1 / maxUnavailable=0)
背景 我带团队跑一条履约事件流:Kafka 3.5(KRaft,3 broker),topic "fulfill-event" 16 分区,消费组 8 实例(K8s Deployment)。消费端为了吞吐做了攒批:"max.poll.rec
【背景】 日 400 万条的订单履约消费端:Kafka 3.5,topic 16 分区,消费组 8 实例,max.poll.records=500,enable.auto.commit=false,逐条「写 MySQL 业务表 → 调物流
背景 我负责一条订单履约链路:Kafka 3.5(3 broker KRaft),topic "order-fulfill" 16 分区,消费组 6 实例(K8s Deployment,maxSurge=1 / maxUnavailable
背景 我带团队跑订单履约链路,Kafka 3.5(KRaft,3 broker),topic "fulfill-event" 32 分区,消费组实例数不固定——K8s HPA 根据 lag 和 CPU 在 6~20 实例之间弹性伸缩(每实例
背景 Kafka 3.5.1(KRaft,3 broker),Java 17 + Spring Kafka 3.1,消费组 8 实例跑在 K8s 1.29 上,topic 32 分区,峰值 1.2 万 msg/s。分配器 Cooperati
背景 我负责一条订单履约事件链:Kafka 3.5(KRaft,3 broker,ISR=3),topic "order-event" 按 order_id 哈希到 64 分区,消费组 32 实例,分区内严格顺序消费(单 partition
背景 K8s 1.29 + Kafka 3.5(3 broker,ISR=3),消费组 8 实例(K8s Deployment),topic "order-event" 32 分区,日均约 4500 万条。关键配置:"max.poll.re
背景 我负责一条结算对账链路,Kafka 3.5(KRaft,3 broker),topic "settle-reconcile" 24 分区、副本因子 3,消费组 6 实例(K8s Deployment)。消费端走 transaction
背景 全栈 3 年,最近在 at-least-once 消费链路里做一个「支付结果回查」消费者:单条消息的处理顺序是 1. 调用外部风控/支付网关 RPC(不可撤回:一旦发出,网关侧已扣减限额,重试会重复扣); 2. 将 RPC 返回的结果
背景 我带团队跑订单履约链路,Kafka 3.5(KRaft,3 broker),topic "order-event" 24 分区(按 order_id 哈希),消费组 8 实例,at-least-once + 幂等表(MySQL 8.0
背景 我负责订单履约链路,Kafka 3.5(KRaft,3 broker),topic 16 分区、峰值 4k msg/s,消费组 8 实例。消费端是 at-least-once:拉取批次 → 逐条写 MySQL 8.0(业务表 + 幂等
背景 我做过 10 年分布式,带团队跑过订单履约、账务对账两条 at-least-once 消费链路。Kafka 3.5(KRaft,3 broker),topic 16 分区、峰值 4k msg/s,消费组 8 实例,单条消息的业务处理分
文
标题
摘要