K8s kube-reserved预留不足与HPA联动失效的根因分析与动态阈值计算方案设计

背景

我们管理一个 Kubernetes 集群，节点上配置了 kube-reserved 和 system-reserved 以确保系统资源的预留。然而，在高负载场景下，业务 Pod 仍会因资源不足被驱逐，且 Horizontal Pod Autoscaler（HPA）未触发扩缩容。

现象

1. 资源预留不足：节点 CPU/Mem 使用率超过 kube-reserved 预留值后，系统 Pod（如 kubelet、coredns）被驱逐。
2. HPA 未触发：业务 Pod CPU 使用率超过 HPA 阈值后，HPA 未按策略扩缩容。
3. 资源争用加剧：驱逐事件导致新 Pod 启动延迟，形成恶性循环。

已尝试排查

• 检查 kube-reserved 设置：--kube-reserved-cpu=100m --kube-reserved-memory=500Mi，但未预留足够系统资源。
• 检查 HPA 配置：指标为 resource/usage/cpu，目标副本数未达最大值。
• 检查节点资源使用：kubectl describe node 显示 Allocated CPU 超过 Capacity，但 Allocatable 未被正确计算。

期望答案形态

1. 根因分析：

   • kube-reserved 与 system-reserved 的交互逻辑
   • HPA 与 kube-reserved 的资源争用机制
   • kubelet 资源分配优先级与驱逐策略

2. 动态阈值方案：

   • 基于历史负载的滑动窗口计算公式
   • 资源预留与扩缩容的协同控制算法
   • 实时监控指标与阈值调整策略

引用依据

• 《K8s kube-reserved预留不足与HPA联动失效的根因分析与动态阈值计算方案设计》（已存在但未解决）
• 《Kube-reserved 与 HPA 资源争用的调优实践》（需补充动态阈值部分）