标签频道
消息中间件
该标签下的文章、提问与讨论帖。
【背景】 我负责一个风控事件流消费服务:Kafka 3.5(5 broker,ISR=3),topic "risk-event" 32分区,消费组16实例(1:1对齐分区)。每条消息的处理逻辑是: 1. 查MySQL拿规则配置(P50 2m
【背景】 我负责一个风控事件流消费服务:Kafka 3.5(5 broker,ISR=3),topic "risk-event" 32 分区,消费组 16 实例(1:1 对齐分区)。每条消息的处理逻辑是: 1. 查 MySQL 拿规则配置(
一、现象与背景:一次 1420 条数据消失的事故复盘 1.1 事故复现 去年 Q4,我们支付回调落库链路遭遇严重故障:Kafka 3.5(3 broker)、"pay-callback" topic 16 分区、消费组 8 实例、MySQL
【背景】 Kafka消费者组Rebalance是分布式系统中常见的性能瓶颈,但多数团队仍困在『参数调优→架构改造』的二选一困境。我们曾因Rebalance风暴导致单集群吞吐量骤降40%,而业务方要求『零代码改动』。 【常见分歧】 1. 监控
背景 我们有一个 Kafka 消费者组,消费的是 "order-event" topic,该 topic 有 24 个分区,消费组 8 个实例。近期在流量高峰期间频繁出现 Rebalance 风暴,导致消息积压甚至丢失。 具体环境: - K
背景 我们有一个 Kafka 消费者组,消费的是 "order-event" topic,该 topic 有 24 个分区,消费组 8 个实例。最近在流量高峰期间,出现了多次 Rebalance 风暴,导致消息处理延迟甚至丢失。 具体环境:
【背景】 在Kafka 3.5 + Spring Boot 3.2 + MySQL 8.0的架构中,我们曾为支付回调链路设计过「at-least-once + 幂等表」方案(参考id=1563),但随着业务量突破50万TPS,发现单条消息需
背景 我们有一个 Kafka 消费者组,消费的是 "order-event" topic,该 topic 有 24 个分区,消费组 8 个实例。最近在流量高峰期间,出现了多次 Rebalance 风暴,导致消息处理延迟甚至丢失。 现象 1.
【背景】 在 Kafka 的 exactly-once 实践中,我们常常面临一个关键问题:究竟应该在消息生产端使用 Outbox + 业务幂等,还是在全链路使用事务来保证一致性? 【常见分歧】 - Outbox + 业务幂等: - 优点:实
背景 我们在生产环境中部署了一个 Kafka 消费者组,消费的是 "order-event" topic,该 topic 有 24 个分区,消费组 8 个实例。近期在流量高峰期间,出现了多次 Rebalance 风暴,导致消息处理延迟甚至丢
背景 我们有一个 Kafka 消费者组,消费的是 "order-event" topic,该 topic 有 24 个分区,消费组 8 个实例。最近在流量高峰期间,出现了多次 Rebalance 风暴,导致消息处理延迟甚至丢失。 现象 1.
【背景】 带团队做过订单履约、支付对账、IM 三条链路,发现"保顺序"这件事,成本差异能差出 10 倍以上,但团队里对"到底要保到哪一级"经常没共识——写代码的人默认"顺序消息"三个字就完事了,没人在设计评审时把粒度掰开谈。 我把它拆成四档
背景 我们有一个 Kafka 消费者组,消费的是 "order-event" topic,该 topic 有 24 个分区,消费组 8 个实例。最近在流量高峰期间,出现了多次 Rebalance 风暴,导致消息处理延迟甚至丢失。 现象 1.
背景 我们有一个 Kafka 消费者组,消费的是 "order-event" topic,该 topic 有 24 个分区,消费组 8 个实例。最近在流量高峰期间,出现了多次 Rebalance 风暴,导致消息处理延迟甚至丢失。 现象 1.
【背景】 我们线上某个核心业务的Kafka消费者组,每月会经历3-5次Rebalance风暴,导致消费延迟最高达40分钟。传统方案需要业务方改代码加分区锁,但改造成本高且存在风险。 【常见分歧】 1. 检测层:是否需要埋点追踪Consume
【背景】 去年我们做订单履约链路,Kafka 3.5(KRaft,3 broker),核心路径: 订单创建 → 写 MySQL → 发 Kafka 消息 → 消费者调外部物流 API。 最初用 Kafka 事务(enable.idempot
背景 我们有一个 Kafka 消费者组,消费的是 "order-event" topic,该 topic 有 24 个分区,消费组 8 个实例。最近在流量高峰期间,出现了多次 Rebalance 风暴,导致消息处理延迟甚至丢失。 现象 1.
背景 我们有一个 Kafka 消费者组,消费的是 "order-event" topic,该 topic 有 24 个分区,消费组 8 个实例。最近在流量高峰期间,出现了多次 Rebalance 风暴,导致消息处理延迟甚至丢失。 现象 1.
【背景】 我们去年在做订单履约链路,使用 Kafka 3.5(KRaft,3 broker),核心路径是:订单创建 → 写 MySQL → 发 Kafka 消息 → 消费者调外部物流 API。最初我们尝试使用 Kafka 事务(enable
【背景】 去年我们做订单履约链路,Kafka 3.5(KRaft,3 broker),核心路径: 订单创建 → 写 MySQL → 发 Kafka 消息 → 消费者调外部物流 API。 最初用 Kafka 事务(enable.idempot
已经到底了
文
标题
摘要