讲师中心 微信公众号
AI工具推荐 视频效率加速

如何排查因Pv绑定的底层存储物理断电引发的K8s编排层存储卷挂载挂起死锁故障

星枫姑娘_8132

星枫姑娘_8132

发布时间:2026-06-01 12:31:05

|

781人浏览过

|

来源于php中文网

原创

底层存储物理断电导致PV挂载挂起、Pod卡在ContainerCreating,本质是编排层与存储层故障感知脱节形成的“静默死锁”:attachdetach-controller无限等待无响应设备,既不超时也不报错。

如何排查因pv绑定的底层存储物理断电引发的k8s编排层存储卷挂载挂起死锁故障

当底层存储物理断电导致 Kubernetes 中 PV 挂载挂起、Pod 卡在 ContainerCreating 状态,且长时间不超时、不报错、也不自动恢复——这本质上是编排层与存储层的故障感知脱节引发的“静默死锁”。它不是常规 Pending 或 FailedAttach,而是 attachdetach-controller 仍在等待一个永远无法响应的设备。以下是直击要害的排查路径:

看 Pod 事件里有没有“卡住的 Attach”

这是第一眼判断依据。运行:

kubectl describe pod <pod-name> -n <namespace>

重点盯 Events 最后几条:

  • 若出现 Warning FailedAttachVolume ... Multi-Attach error → 是多节点争抢挂载,和断电无关;
  • 若出现 Normal AttachVolume.Attach pending for volume 且持续数分钟无后续(既没 Success,也没 Fail)→ 极可能底层存储失联,attachdetach-controller 正在无限重试;
  • 若事件完全停滞,连 Attach 都没触发 → 要检查 kubelet 是否已感知节点异常(见下一条)。

查 kubelet 日志确认是否“等不到设备响应”

断电后,Ceph RBD、iSCSI、NFS 等后端通常表现为设备节点消失或 IO hang。kubelet 在尝试 mount/attach 时会卡在系统调用层面。登录对应 Node,执行:

journalctl -u kubelet -n 200 --no-pager | grep -i -E "(rbd|iscsi|nfs|attach|mount|timeout)"

典型线索:

Kubernetes Network Policy Generator
Kubernetes Network Policy Generator

使用加权评分卡在12项标准上评估和比较隐私解决方案供应商。适用于选择隐私管理软件、比较数据保护方案等场景。

下载
  • "rbd: map failed: exit status 110"(ETIMEDOUT);
  • "iscsiadm: can't connect to iSCSI daemon";
  • "nfs: server X.X.X.X not responding, still trying";
  • 或大量重复日志如 "Waiting for volume ... to be attached",但无 timeout 提示。

这说明 kubelet 已陷入阻塞,而默认 timeout 值(如 rbd 的 `rbd map` 默认无超时)远长于业务容忍窗口。

验 PV 状态是否“假 Bound”

PV 显示 Bound 并不等于底层设备可用。断电后 PV 状态不会自动变,需人工验证其实际可访问性:

  • 查 PV 的 `spec.persistentVolumeReclaimPolicy`:如果是 `Retain`,断电后 PV 仍 Bound,但数据不可达;
  • 运行 kubectl get pv <pv-name> -o yaml,看 status.phase 是否为 Bound,再重点看 status.message 和 status.reason(部分 CSI 驱动会更新);
  • 对 Ceph RBD 类 PV,手动在 Node 上执行:rbd status <pool>/<image> 或 lsblk | grep rbd —— 若 image 不在 map 列表,或返回 “No such file or directory”,即证实设备丢失。

解死锁:强制清理挂载残留并触发重试

不能等自动恢复。必须打破僵局:

  • 先停 kubelet:systemctl stop kubelet(防止新操作干扰);
  • 卸载残留挂载点(如有):umount -f /var/lib/kubelet/pods/*/volumes/*/*;
  • 清除 rbd/iscsi 设备映射:rbd unmap /dev/rbd* && iscsiadm -m node -u;
  • 删掉 attachdetach-controller 的缓存状态(关键):
    编辑 etcd 中对应 volume 的 attach 对象(路径类似 /registry/volumes/attachments/<node-name>.<pv-name>),或更稳妥地:重启 kube-controller-manager(它负责 attachdetach-controller);
  • 启动 kubelet,观察 PVC 是否触发重新 attach —— 此时若存储仍未恢复,会快速报出 FailedAttachVolume,便于告警收敛。

注意:该操作需在确认存储已恢复供电并能被节点网络可达之后进行,否则只是重复失败。

热门AI工具

更多
Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

相关专题

更多
服务器是什么
服务器是什么

服务器是一种计算机硬件设备或软件程序,它具有强大的计算和存储能力,用请求、存储数据和提供服务。它在互联网中着关重要的作用,为用户提供各种服务和资源。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

457

2023.08.15

连接apple id服务器时出错
连接apple id服务器时出错

连接apple id服务器时出错的原因包括网络连接问题、服务器问题、Apple ID账户问题、设备问题、防火墙或安全软件问题、时间和日期设置问题、Apple服务器维护等。本专题为大家提供apple id相关的文章、下载、课程内容,供大家免费下载体验。

940

2023.09.08

搭建互联网服务器
搭建互联网服务器

搭建互联网服务器需要:1、选择合适的硬件和操作系统,第一步是选择合适的硬件和操作系统;2、安装和配置操作系统,是搭建互联网服务器的关键步骤;3、安装和配置服务器软件,是搭建互联网服务器的下一步,常见的服务器软件包括Apache、Nginx、Tomcat等;4、配置防火墙和安全性,是搭建互联网服务器的重要步骤;5、域名解析和配置,是搭建互联网服务器的最后一步。

3152

2023.09.19

如何查看服务器状态
如何查看服务器状态

查看服务器状态的方法有使用命令行工具、图形界面工具、监控工具、日志文件和远程管理工具等。本专题为大家提供服务器状态相关的文章、下载、课程内容,供大家免费下载体验。

1036

2023.10.09

服务器域名转接慢怎么解决
服务器域名转接慢怎么解决

服务器域名转接慢的解决办法有DNS优化、服务器优化、CDN加速、前端优化和网络优化等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

929

2023.10.17

服务器评测软件
服务器评测软件

服务器评测软件有PassMark Software、CPU-Z、GPU-Z、CrystalDiskMark、IOmeter、JMeter、LoadRunner、Apache Bench等等。详细介绍:1、PassMark Software是一款综合性的服务器性能测试软件,可以评估服务器在各种负载条件下的性能;2、CPU-Z是一款可以提供服务器CPU详细信息的软件等等。

474

2023.10.17

如何开启TFTP服务器
如何开启TFTP服务器

开启TFTP服务器的步骤包括选择TFTP服务器软件、下载和安装软件、配置TFTP服务器以及启动和测试服务器等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2876

2023.10.18

服务器负载不兼容怎么解决
服务器负载不兼容怎么解决

解决方法:1、增加服务器资源;2、负载均衡;3、优化应用程序;4、增加缓存机制;5、分布式架构;6、限流和熔断;7、自动化扩容。想知道更详细服务器负载不兼容的解决方法,可以访问本专题下面的文章。

5392

2023.10.20

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

40

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Kubernetes官方教程手册
Kubernetes官方教程手册

共0课时 | 0人学习

Kubernetes官方中文文档
Kubernetes官方中文文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn