已采纳
回答正文
回复
讨论正文
该问题的正文与回答。
背景
我在做一批 ARM Cortex-A53(2C4G)的边缘网关,存储是 8GB eMMC(标称 50k P/E),上面跑 K3s v1.31 + containerd 1.7.x。业务镜像大概 180MB~350MB,每周有 2~3 次滚动更新(拉新镜像 → 建新 Pod → 删旧 Pod → 旧镜像变 unreferenced)。
现象
跑了两个月后,df -h 显示 overlay 分区从初始 1.2GB 涨到 3.8GB(总共就 8GB),其中大量是 unreferenced 的 overlay 层(ctr -n k8s.io images ls 能看到十几个旧版本镜像还占着空间)。用 mmc extcsd read 查 eMMC 的 erase count,已经过了 12k,按当前速率估算 18 个月就会到 P/E 寿命上限。
已尝试的排查
crictl rmi --prune——只清 unreferenced 镜像,但 overlayfs 的 lower diff 层文件不会立刻释放(要等 dentry 回收),手动 sync + echo 3 > /proc/sys/vm/drop_caches 后空间才回来,但这个过程有 3~5 秒的 IO 抖动,期间同节点上正在跑的容器偶发 200ms+ 延迟毛刺。image_gc_high_threshold = "2GiB"、image_gc_low_threshold = "1GiB",GC 确实会触发,但触发时是批量删 layer,IO 峰值很高(iostat -x 1 看到 eMMC 的 %util 打到 95%+),对业务容器影响明显。ctr -n k8s.io content 手动清 blob,但没找到安全的操作顺序,怕清了正在被容器引用的层导致运行时崩溃。期望得到的答案形态
nice/ionice 限速脚本?)