讲师中心 微信公众号
AI工具推荐 视频效率加速

K8s怎么排查APIServer高并发读写引发的etcd存储暴涨

酷杰大大_4696

酷杰大大_4696

发布时间:2026-11-01 13:23:16

|

802人浏览过

|

来源于php中文网

原创

etcd磁盘超限已触发只读模式,集群控制面实质瘫痪;需立即停止写入操作,通过etcdctl watch定位高频写入资源(如endpoints/secrets),并压缩历史版本、清理过期对象止血。

k8s怎么排查apiserver高并发读写引发的etcd存储暴涨

当kubectl get pods频繁超时、etcd磁盘使用率在几小时内从30%飙升至95%、etcdctl endpoint status显示backend quota usage持续增长,说明APIServer高并发读写正在触发etcd存储暴涨,必须立刻定位源头写入行为。

确认etcd是否已触发空间告警

登录任意Master节点,执行健康检查命令,观察返回中是否有“database space exceeded”字样:

ETCDCTL_API=3 etcdctl --endpoints=https://127.0.0.1:2379 --cacert=/etc/kubernetes/pki/etcd/ca.crt --cert=/etc/kubernetes/pki/etcd/healthcheck-client.crt --key=/etc/kubernetes/pki/etcd/healthcheck-client.key endpoint status --write-out=table

若输出中DB Size列数值接近或等于DB Quota(默认2GB),且Is Leader为false或Health为false,说明etcd已进入只读模式,【此时所有写入请求将被拒绝,集群控制面实质瘫痪】。立即停止任何kubectl apply/delete操作。

定位高频写入的资源类型

方法一:用etcdctl watch实时捕获写入热点

在etcd节点上运行以下命令,持续监听最近10秒内变化最剧烈的key前缀:

ETCDCTL_API=3 etcdctl --endpoints=https://127.0.0.1:2379 --cacert=/etc/kubernetes/pki/etcd/ca.crt --cert=/etc/kubernetes/pki/etcd/server.crt --key=/etc/kubernetes/pki/etcd/server.key watch --prefix /registry/ --changes-only --rev=$(etcdctl --endpoints=https://127.0.0.1:2379 --cacert=/etc/kubernetes/pki/etcd/ca.crt --cert=/etc/kubernetes/pki/etcd/server.crt --key=/etc/kubernetes/pki/etcd/server.key get / --print-value-only | wc -c) 2>/dev/null | head -n 50 | cut -d' ' -f1 | sed 's|/registry/||' | cut -d'/' -f1 | sort | uniq -c | sort -nr

该命令会输出类似:18432 endpoints、9216 secrets、4096 configmaps——数字越大代表该资源类型写入越密集。注意:endpoints资源高频更新通常源于Service后端Pod频繁上下线;secrets/configmaps暴涨大概率是CI/CD流水线每轮构建都创建新版本却未清理旧对象。

方法二:检查APIServer访问日志中的高频请求路径

查看kube-apiserver容器日志(需先确认日志路径是否启用):

journalctl -u kube-apiserver -n 1000 --no-pager | grep -E 'POST|PUT' | grep -v '/healthz|/livez|/metrics' | awk '{print $13}' | sort | uniq -c | sort -nr | head -10

重点关注如/api/v1/namespaces/default/secrets、/apis/batch/v1/namespaces/default/jobs这类路径。若某条路径出现频率远高于其他(例如单条路径占全部写入请求的60%以上),它就是罪魁祸首。

uk8s
uk8s

创建 UK8S Kubernetes 集群。通过 ucloud-cli 调用 API,自动获取 VPC/子网/版本/镜像,生成配置并创建集群。

下载

快速止血:冻结源头写入并清理历史版本

第一步:临时禁用高频写入的控制器(以Job为例)

找到对应控制器管理器Pod,进入其容器执行:

kubectl -n kube-system get pod -l component=kube-controller-manager -o jsonpath='{.items[0].metadata.name}' | xargs -I{} kubectl -n kube-system exec {} -- sh -c 'kill -STOP $(pgrep -f "job")'

这会暂停Job控制器的reconcile循环,阻止新Job对象持续写入etcd。注意:此操作不影响已运行的Job,仅阻断新增。

第二步:压缩etcd历史版本,释放空间

执行以下命令强制压缩revision(保留最近1000个版本,可根据实际调整):

ETCDCTL_API=3 etcdctl --endpoints=https://127.0.0.1:2379 --cacert=/etc/kubernetes/pki/etcd/ca.crt --cert=/etc/kubernetes/pki/etcd/server.crt --key=/etc/kubernetes/pki/etcd/server.key compact $(etcdctl --endpoints=https://127.0.0.1:2379 --cacert=/etc/kubernetes/pki/etcd/ca.crt --cert=/etc/kubernetes/pki/etcd/server.crt --key=/etc/kubernetes/pki/etcd/server.key endpoint status --write-out=json | jq -r '.header.revision') --physical

第三步:彻底删除无用的历史对象(如过期的Secret)

先查出创建超过7天且未被任何Pod引用的Secret:

kubectl get secret --all-namespaces -o wide --sort-by=.metadata.creationTimestamp | tail -n +100 | awk '{if ($5 /dev/null | grep -q "$name" || echo "$ns/$name"; done

对输出列表中的每个namespace/name执行kubectl delete secret -n $ns $name。这一步必须人工核对,避免误删生产密钥。

热门AI工具

更多
二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

相关专题

更多
Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

100

2026.10.28

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

60

2026.10.28

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

220

2026.10.28

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

140

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

120

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

80

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

60

2026.10.22

PHP时间戳漏洞修复教程
PHP时间戳漏洞修复教程

本专题汇总PHP常见时间戳漏洞,包括2038年溢出、时区漂移、时间戳伪造、重放攻击、时间盲注与日志审计失效等,并给出升级64位环境、使用 DateTimeImmutable、统一UTC、严格超时校验、预处理绑定、hash_equals 比对等修复方案,帮助开发者快速排查和加固时间相关代码。

100

2026.10.22

Golangci-lint配置文件与规则设置
Golangci-lint配置文件与规则设置

本专题聚焦Golangci-lint YAML配置文件,讲清运行参数、规则启停、目录排除、问题过滤及严重级别设置,便于团队统一检查标准。

40

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
光速学会docker容器
光速学会docker容器

共33课时 | 3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn