讲师中心 微信公众号
AI工具推荐 视频效率加速

K8s怎么排查Rook-Ceph分布式存储池异常降级

大静酱_3258

大静酱_3258

发布时间:2026-10-30 13:15:21

|

675人浏览过

|

来源于php中文网

原创

必须立即定位Rook-Ceph存储池PG降级根因,常见原因包括副本丢失、OSD故障、CRUSH映射异常或网络隔离;需通过ceph status、osd pool ls detail、pg dump_stuck等命令逐层排查,并按恢复OSD、修复PG、剔除故障OSD顺序处理。

k8s怎么排查rook-ceph分布式存储池异常降级

当 Kubernetes 集群中 Rook-Ceph 存储池出现 PG 处于 active+degraded 状态、写入卡顿、PVC 挂载失败或 ceph status 显示 HEALTH_WARN 且提示 pool ... is degraded 时,必须立即定位降级根因——这通常意味着部分副本丢失、OSD 故障、CRUSH 映射异常或网络隔离,不及时处理将导致数据不可用风险。

确认降级范围与具体池

执行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph status,观察输出中 pgmap 行的 degraded 数值及警告信息。若显示 pool 'replicapool' pg_num 128 has too few pgs 或 degraded: 12/192 objects,说明该池已发生实际数据副本缺失。

运行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph osd pool ls detail,找到目标池的 size(副本数)和 min_size 值。例如 size 3 min_size 2 表示需至少 2 个副本在线才能写入;若当前在线 OSD 数<min_size,该池将彻底拒绝写入。

【关键前提】必须确保 rook-ceph-tools Pod 处于 Running 状态且能连通 Ceph monitor;若其 CrashLoopBackOff,先用 kubectl -n rook-ceph get pod -l app=rook-ceph-tools 检查并重启它,否则所有后续命令均无效。

定位降级 PG 及对应 OSD

执行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph pg dump_stuck inactive,unclean,degraded --format json-pretty,筛选出状态为 degraded 的 PG ID(如 3.1a)。

对任一降级 PG 执行深度查询:kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph pg 3.1a query,在返回 JSON 中重点查看 acting(当前服务副本列表)与 up(应在线副本列表)字段是否一致;若不一致,说明有 OSD 被标记为 down 但未从 CRUSH map 移除。

运行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph osd tree | grep -A5 -B5 down,直接定位已宕机的 OSD 编号(如 osd.5)及其所在节点。若该节点状态为 NotReady,则降级由节点失联引发;若节点 Ready 但 OSD 进程未运行,需登录该节点执行 systemctl status ceph-osd@5 查看日志。

uk8s
uk8s

创建 UK8S Kubernetes 集群。通过 ucloud-cli 调用 API,自动获取 VPC/子网/版本/镜像,生成配置并创建集群。

下载

检查 OSD 状态与磁盘健康

方法一:快速汇总
执行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph osd stat,确认 up:N 与 in:N 是否相等。若 up ,说明有 OSD 进程崩溃但仍在集群注册表中,必须手动 <code>ceph osd out <id></id> 再 ceph osd down <id></id>。

方法二:逐个验证磁盘可用性
对每个 up 状态为 false 的 OSD,运行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph osd metadata <id></id>,检查 device_ids 和 rotational 字段是否存在。若返回空或报 error connecting to,说明该 OSD 对应的裸盘已被卸载、损坏或被 udev 规则屏蔽。

注意:Rook 默认使用 /var/lib/rook/osd-<id></id> 目录挂载设备;若节点上该路径下无 block.db 或 block.wal 文件,且 lsblk 查不到对应磁盘,基本可判定物理介质故障。

修复降级状态(按优先级顺序执行)

第一步:恢复离线 OSD(若硬件正常)
登录对应节点 → 执行 systemctl start ceph-osd@<id></id> → 等待 30 秒 → 在 tools 容器中运行 ceph osd in <id></id> → 观察 ceph -s 中 degraded 计数是否下降。

第二步:强制恢复 PG(仅当确认副本数据完整)
若 PG 卡在 degraded 但所有 acting OSD 均在线,执行 kubectl -n rook-ceph exec -it deploy/rook-ceph-tools -- ceph pg repair <pgid></pgid>。该操作会触发数据比对与修复,耗时取决于对象大小,期间可能短暂影响 IO 性能。

第三步:剔除永久故障 OSD
若磁盘已损坏且无法恢复,必须先 ceph osd out <id></id> → ceph osd down <id></id> → ceph osd purge <id> --yes-i-really-mean-it</id> → 删除节点上 /var/lib/rook/osd-<id></id> 目录 → 修改 Rook Cluster CR 中对应节点的 devices 列表移除该盘 → 触发 Rook 自动重建新 OSD。

热门AI工具

更多
小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

相关专题

更多
什么是分布式
什么是分布式

分布式是一种计算和数据处理的方式,将计算任务或数据分散到多个计算机或节点中进行处理。本专题为大家提供分布式相关的文章、下载、课程内容,供大家免费下载体验。

2113

2023.08.11

分布式和微服务的区别
分布式和微服务的区别

分布式和微服务的区别在定义和概念、设计思想、粒度和复杂性、服务边界和自治性、技术栈和部署方式等。本专题为大家提供分布式和微服务相关的文章、下载、课程内容,供大家免费下载体验。

3354

2023.10.07

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

40

2026.10.28

Vite 如何搭配 Vue.js
Vite 如何搭配 Vue.js

Vite搭配Vue.js专题汇集创建Vue 3项目、配置开发环境、路径别名、Vue插件、代理、多环境构建与调试的已审核文章,帮助读者完成从初始化到日常开发的配置。

20

2026.10.28

Vite 项目目录怎么看
Vite 项目目录怎么看

Vite项目目录专题汇集入口文件、src源码、public静态资源、路径别名、项目根目录和构建输出目录相关的已审核文章,帮助读者理解各文件夹的用途与引用方式。

40

2026.10.28

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

120

2026.10.22

Gradle Wrapper配置教程
Gradle Wrapper配置教程

本专题介绍Gradle Wrapper的基本作用,涵盖文件组成、生成方法、版本配置和任务调用,帮助你理解项目如何使用指定的Gradle版本,减少不同开发环境带来的构建差异。

80

2026.10.22

Golangci-lint检查器使用教程
Golangci-lint检查器使用教程

本专题整理Golangci-lint常用Linters的用途与配置方法,覆盖错误处理、无效代码、安全、复杂度、命名和依赖检查,帮助项目合理选规则。

80

2026.10.22

Gradle怎么构建Java项目
Gradle怎么构建Java项目

本专题介绍Gradle Java项目构建方法,涵盖Java插件配置、依赖声明、源码编译、测试执行和打包检查,帮助你理解各阶段的任务关系,逐步完成项目构建。

40

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
光速学会docker容器
光速学会docker容器

共33课时 | 3万人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn