分类频道
高并发
该分类下的文章、提问与讨论帖。
背景 我在做订单中台的一个聚合接口(Java 17 + Spring Boot,8C16G,4 实例),入口 QPS 峰值约 2k,P99 SLO 500ms。链路是:网关(800ms)→ 本服务(预算 500ms)→ 并行调 2 个下游
结论先行 对单个下游的「限流」,正确的控制量是「同时打到它的在途请求数(in-flight)」,而不是 QPS、也不是线程数。 三者对应三个不同的阀门:线程池限的是「我有多少工人」,令牌桶限的是「每秒放行多少」,信号量限的才是「此刻有多少在
背景 我维护一个 BFF 网关(Java 17 + OkHttp,线程池 200),下游是库存查询服务(Go,gRPC over HTTP2)。晚高峰稳态 3000 QPS。已经按社区惯例做了两层防护: 1. 客户端重试:最多 1 次,间隔
背景 Java 服务,HikariCP 连接池:"maximumPoolSize=20"、"connectionTimeout=3000ms"、"minimumIdle=20";下游 MySQL 8.0.36,单条 SQL P50≈8ms。
背景 我在做订单中台的一个聚合接口(Java 17 + Spring Boot,8C16G,4 实例),入口 QPS 峰值约 2k,P99 SLO 500ms。链路是:网关(800ms)→ 本服务(预算 500ms)→ 并行调 2 个下游
背景 我们维护一个 Go 1.21 gRPC(v1.59.0)定价服务,被 5 个独立上游服务共享:搜索、购物车、结算、营销、风控。每个上游都是独立的团队,各自用 Resilience4j(Java)或自研 Go 中间件配置重试策略,下游对
背景 我维护一个订单查询网关(Java 17,JDK HttpClient,Tomcat),下游是库存服务(Go,gRPC over HTTP2)。生产环境晚高峰网关到下游的并发连接稳定在 3000 左右。网关侧的调用配置是:单次超时 2s
文
标题
摘要