讲师中心 微信公众号
AI工具推荐 视频效率加速

如何排查因容器引擎物理坏块导致单个Worker节点上的所有Pod频繁报错Evicted

胖宇姑娘_2797

胖宇姑娘_2797

发布时间:2026-08-11 09:31:28

|

213人浏览过

|

来源于php中文网

原创

物理坏块导致Pod频繁Evicted属于底层存储硬件故障,表现为节点Ready但持续I/O错误、镜像拉取失败、emptyDir挂载异常,kubectl describe pod事件多为FailedCreatePodContainer或Unknown,而非明确资源不足提示;需通过dmesg查ATA/NVMe内核报错、journalctl查containerd I/O失败、smartctl查SMART健康状态来确认,并立即打污点隔离节点。

如何排查因容器引擎物理坏块导致单个worker节点上的所有pod频繁报错evicted

容器引擎物理坏块导致单个 Worker 节点上所有 Pod 频繁 Evicted,属于底层存储故障引发的系统性驱逐,不是常规资源压力(如内存、CPU、ephemeral-storage 逻辑耗尽)可覆盖的场景。它往往表现为:节点状态仍为 Ready,但 kubelet 持续上报 I/O 错误、镜像拉取失败、容器启动超时、emptyDir 挂载失败,最终触发反复驱逐——且 kubectl describe pod 中事件常含 FailedCreatePodContainer、FailedMount 或模糊的 Unknown 原因,而非明确的 “low on resource”。

确认是否为物理坏块而非逻辑空间不足

先排除常见误判:

  • 运行 kubectl describe node <node-name>,重点检查 Conditions 下 DiskPressure 和 MemoryPressure 是否为 False;若为 True,再查 Events 中是否有 eviction 相关警告——若没有,或警告与磁盘指标矛盾(如 nodefs.available 显示仍有 20% 空间但 Pod 无法启动),则高度怀疑硬件问题
  • 登录该节点,执行 df -h 和 df -i,确认 /var/lib/containerd、/var/lib/kubelet 所在分区未满、inode 充足
  • 用 sudo dmesg -T | grep -i "ata\|nvme\|sd\|error\|bad\|sector\|uncorrect" 查看内核日志——物理坏块会直接触发 ATA/NVMe 层报错,例如:end_request: I/O error, dev nvme0n1, sector 123456789 或 nvme nvme0: I/O 123456789 failed, status: 0x4002

定位容器引擎层异常行为

坏块通常影响 containerd(或 dockerd)对镜像层、快照、日志文件的读写:

  • 检查 containerd 日志:sudo journalctl -u containerd -n 200 --no-pager | grep -i "error\|fail\|corrupt\|io\|sector"。常见线索包括:failed to mount snapshot、failed to read blob、invalid tar header(非压缩损坏)、read at offset xxx failed: input/output error
  • 尝试手动拉取一个轻量镜像:sudo crictl pull nginx:alpine。若卡住或报 failed to pull image + I/O 类错误,基本锁定存储链路
  • 检查 overlay2/xfs snapshotter 是否异常:sudo ls -la /var/lib/containerd/io.containerd.snapshotter.v1.overlayfs/snapshots/ —— 若大量目录权限异常、ls 卡顿或报 Input/output error,说明快照元数据已受损

验证并隔离故障盘

不建议在生产节点上盲目运行 fsck(可能扩大损坏):

  • 先用 sudo smartctl -a /dev/nvme0n1(或对应设备)查看 SMART 健康状态,重点关注 Reallocated_Sector_Ct、Current_Pending_Sector、UDMA_CRC_Error_Count 是否非零
  • 执行只读检测:sudo badblocks -v -s /dev/nvme0n1p1(替换为实际分区)。若中途报错或超时,证实存在不可读扇区
  • 若确认坏块存在,立即对该节点打污点并驱逐剩余 Pod:kubectl taint node <node-name> hardware/failure=BadBlock:NoSchedule,避免新负载继续写入故障区域

恢复与规避建议

物理坏块无法软件修复,只能规避或更换:

  • 若为 NVMe SSD,部分型号支持 nvme format --ses=1 强制重映射坏块(需厂商支持,操作前务必备份关键数据)
  • 更稳妥做法是:备份 /etc/kubernetes/manifests 和节点证书(/var/lib/kubelet/pki),重装操作系统+containerd,重新加入集群
  • 长期预防:在集群部署阶段启用磁盘健康监控(如 Prometheus + node_exporter 的 node_raid_status、node_disk_io_time_seconds_total 异常突增告警),并为关键节点配置 RAID 1/10 或使用云厂商提供的带自动坏块管理的云盘

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

相关专题

更多
服务器是什么
服务器是什么

服务器是一种计算机硬件设备或软件程序,它具有强大的计算和存储能力,用请求、存储数据和提供服务。它在互联网中着关重要的作用,为用户提供各种服务和资源。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

437

2023.08.15

连接apple id服务器时出错
连接apple id服务器时出错

连接apple id服务器时出错的原因包括网络连接问题、服务器问题、Apple ID账户问题、设备问题、防火墙或安全软件问题、时间和日期设置问题、Apple服务器维护等。本专题为大家提供apple id相关的文章、下载、课程内容,供大家免费下载体验。

900

2023.09.08

搭建互联网服务器
搭建互联网服务器

搭建互联网服务器需要:1、选择合适的硬件和操作系统,第一步是选择合适的硬件和操作系统;2、安装和配置操作系统,是搭建互联网服务器的关键步骤;3、安装和配置服务器软件,是搭建互联网服务器的下一步,常见的服务器软件包括Apache、Nginx、Tomcat等;4、配置防火墙和安全性,是搭建互联网服务器的重要步骤;5、域名解析和配置,是搭建互联网服务器的最后一步。

2732

2023.09.19

如何查看服务器状态
如何查看服务器状态

查看服务器状态的方法有使用命令行工具、图形界面工具、监控工具、日志文件和远程管理工具等。本专题为大家提供服务器状态相关的文章、下载、课程内容,供大家免费下载体验。

916

2023.10.09

服务器域名转接慢怎么解决
服务器域名转接慢怎么解决

服务器域名转接慢的解决办法有DNS优化、服务器优化、CDN加速、前端优化和网络优化等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

829

2023.10.17

服务器评测软件
服务器评测软件

服务器评测软件有PassMark Software、CPU-Z、GPU-Z、CrystalDiskMark、IOmeter、JMeter、LoadRunner、Apache Bench等等。详细介绍:1、PassMark Software是一款综合性的服务器性能测试软件,可以评估服务器在各种负载条件下的性能;2、CPU-Z是一款可以提供服务器CPU详细信息的软件等等。

414

2023.10.17

如何开启TFTP服务器
如何开启TFTP服务器

开启TFTP服务器的步骤包括选择TFTP服务器软件、下载和安装软件、配置TFTP服务器以及启动和测试服务器等。本专题为大家提供服务器相关的文章、下载、课程内容,供大家免费下载体验。

2476

2023.10.18

服务器负载不兼容怎么解决
服务器负载不兼容怎么解决

解决方法:1、增加服务器资源;2、负载均衡;3、优化应用程序;4、增加缓存机制;5、分布式架构;6、限流和熔断;7、自动化扩容。想知道更详细服务器负载不兼容的解决方法,可以访问本专题下面的文章。

4612

2023.10.20

FrankenPHP集成Laravel详细教程
FrankenPHP集成Laravel详细教程

本专题提供FrankenPHP集成Laravel的详细配置指南,全面解析运行原理、开发环境搭建、Caddyfile配置、Octane工作模式、数据库连接、队列任务、定时任务和生产环境优化,解决部署过程中常见的报错与兼容性问题。

0

2026.10.08

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn