讲师中心 微信公众号
AI工具推荐 视频效率加速

Linux Rook Ceph 的块/文件/对象存储生产部署 checklist

冬芳小哥_8049

冬芳小哥_8049

发布时间:2026-02-17 10:30:02

|

456人浏览过

|

来源于php中文网

原创

Rook-Ceph部署常见故障包括:Operator权限不足需同步ClusterRoleBinding命名空间;CephBlockPool因crush rule或pg_num不匹配导致rbd map失败;CephFileSystem因MDS未就绪或fscache不支持致mount失败;RGW因Ingress TLS证书链错位或backend-protocol配置错误致endpoint不可达。

linux rook ceph 的块/文件/对象存储生产部署 checklist

rook-ceph operator 部署失败:ClusterRoleBinding 权限不生效

Operator 启动后 rook-ceph-operator Pod 一直 CrashLoopBackOff,日志里反复出现 error getting ceph version: failed to run stdcmd 或 no RBAC policy matched —— 这大概率不是 Ceph 自身问题,而是 Operator 没拿到足够权限去操作 CRD 和节点资源。

关键点在于 Rook 的 clusterrolebinding 默认绑定的是 system:serviceaccounts:rook-ceph 这个 ServiceAccount,但如果你手动改过命名空间、或用 Helm 覆盖了 namespace 参数,而没同步更新 ClusterRoleBinding.subjects[0].namespace,权限就断了。

  • 检查 kubectl get clusterrolebinding rook-ceph-operator -o yaml,确认 subjects[0].namespace 和你实际部署 operator 的 namespace 一致
  • 如果用了自定义 namespace(比如 storage-ceph),必须同步 patch ClusterRoleBinding 和所有 ServiceAccount、RoleBinding 的 namespace 字段
  • Helm 部署时别只改 namespace,还要显式设 operator.namespace=storage-ceph,否则 Chart 内部模板仍会生成默认值

cephblockpool 创建后 rbd map 失败:底层 crush rule 或 pg_num 不匹配

Pool 创建成功,Ceph 状态也显示 HEALTH_OK,但应用 Pod 挂载 PVC 时卡在 Waiting for a volume to be created,或者直接报 rbd: sysfs write failed。这时候不是网络或密钥问题,而是 pool 的底层配置和集群当前 crush topology 或 PG 数量不兼容。

Rook 默认创建的 CephBlockPool 使用 replicated_rule,但如果集群只有 3 个 OSD 且都落在同一 host 或 rack,而 rule 却要求跨 failure domain(比如 rack),就会无法选到满足条件的 OSD 组合,导致写入失败。

Zynq Linux Hardware Debug
Zynq Linux Hardware Debug

Zynq‑7000 / Zynq UltraScale+ 硬件调试技能。适用于 Xilinx Zynq(Cortex‑A9/A53 + FPGA)Linux 环境,调试 I2C、I2S、UART、GPIO 等外设。包括设备树配置、内核驱动、用户空间调试工具、交叉编译和常见问题排查,支持 PetaLinux 开发。

下载
  • 运行 ceph osd crush rule dump 看 rule 定义,再用 ceph osd crush rule ls 确认 pool 实际绑定的 rule 名
  • 检查 CephBlockPool.spec.failureDomain 是否和你的物理拓扑一致;若只有单机测试环境,应设为 host,并确保对应 rule 的 steps 中包含 take default → chooseleaf firstn 0 type host
  • pgNum 必须是 2 的幂,且不能超过 osd_pool_default_pg_num(通常为 128);生产环境建议按 OSD 数 × 100 计算,但首次部署别超过 512,否则 PG 创建慢、OSD 同步压力大

CephFileSystem mount 失败:MDS 未就绪或 kernel client 不支持 fscache

PVC 绑定成功,但 Pod 里 mount -t ceph 报 Connection refused 或卡住几秒后超时 —— 先看 ceph status 里有没有 mds 进程,再查 kubectl -n rook-ceph get pod -l app=rook-ceph-mds 是否 Running。即使 MDS Pod 是 Running,也可能因配置错误没真正提供服务。

Rook 的 CephFilesystem CR 默认启用 dashboard 和 fscache,但多数内核版(尤其 CentOS 7.9 / Ubuntu 20.04 默认 kernel)不支持 fscache,会导致 mount 尝试 fallback 失败。

  • 确认 MDS Pod 日志有 mds.<fsname>: all is fine</fsname>,而非 standby-replay 或 failed to start
  • 在客户端节点执行 modprobe ceph; echo $? 验证内核模块加载;若失败,检查是否启用了 ceph-fuse 替代方案(需在 StorageClass 中设 mountOptions: ["fuse"])
  • 禁用 fscache:编辑 CephFilesystem,把 spec.metadataServer.activeCount 设为 1,并在 spec.metadataServer.parameters 加 fscache: "false"

对象存储 RGW endpoint 不可达:Ingress 路由与 TLS 证书链错位

RGW Pod Running,ceph orch ps | grep rgw 显示 running,但 curl -v http://rgw.example.com 返回 502 或连接拒绝。Rook 默认用 NodePort 暴露 RGW,但生产环境一般走 Ingress —— 这里最容易被忽略的是证书链顺序和 Ingress controller 对 backend-protocol: HTTPS 的支持差异。

Nginx Ingress 默认不校验 backend TLS 证书,但如果你用了 cert-manager + Let's Encrypt,它签发的证书不含中间 CA,而某些 RGW 镜像(如 v18.2.0+)启用 ssl_verify_peer 后会拒接不完整链的请求。

  • RGW Service 类型必须是 ClusterIP,Ingress 的 backend.service.port.number 应指向 RGW 的 https 端口(通常是 443),不是 80
  • cert-manager Issuer 必须设 preferredChain: "ISRG Root X1",避免使用已弃用的 DST Root CA X3
  • 确认 Ingress annotation 包含 kubernetes.io/ingress.class: nginx 和 nginx.ingress.kubernetes.io/backend-protocol: "HTTPS",否则流量以 HTTP 发给 RGW 的 HTTPS 端口
Rook Ceph 生产部署最耗时间的从来不是 YAML 编写,而是每个组件启动后“看似正常实则半残”的状态:MDS 在 standby-replay、RGW 的 https port 被 Ingress 错配成 http、PG 数量导致 OSD load spike 却不报错。盯住 ceph -s 输出里的 pgs 状态、mds rank 和 rgw service endpoint 的真实响应码,比反复重装 operator 有用得多。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

立刻MV
立刻MV Hot

立刻MV是一款AI文本写作工具,AI 音乐视频(MV)创作工具。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

相关专题

更多
nginx 重启
nginx 重启

nginx重启对于网站的运维来说是非常重要的,根据不同的需求,可以选择简单重启、平滑重启或定时重启等方式。本专题为大家提供nginx重启的相关的文章、下载、课程内容,供大家免费下载体验。

403

2023.07.27

nginx 配置详解
nginx 配置详解

Nginx的配置是指设置和调整Nginx服务器的行为和功能的过程。通过配置文件,可以定义虚拟主机、HTTP请求处理、反向代理、缓存和负载均衡等功能。Nginx的配置语法简洁而强大,允许管理员根据自己的需要进行灵活的调整。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3667

2023.08.04

nginx配置详解
nginx配置详解

NGINX与其他服务类似,因为它具有以特定格式编写的基于文本的配置文件。本专题为大家提供nginx配置相关的文章,大家可以免费学习。

6405

2023.08.04

tomcat和nginx有哪些区别
tomcat和nginx有哪些区别

tomcat和nginx的区别:1、应用领域;2、性能;3、功能;4、配置;5、安全性;6、扩展性;7、部署复杂性;8、社区支持;9、成本;10、日志管理。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

581

2024.02.23

nginx报404怎么解决
nginx报404怎么解决

当访问 nginx 网页服务器时遇到 404 错误,表明服务器无法找到请求资源,可以通过以下步骤解决:1. 检查文件是否存在且路径正确;2. 检查文件权限并更改为 644 或 755;3. 检查 nginx 配置,确保根目录设置正确、没有冲突配置等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

1496

2024.07.09

Nginx报404错误解决方法
Nginx报404错误解决方法

解决方法:只需要加上这段配置:try_files $uri $uri/ /index.html;即可。想了解更多Nginx的相关内容,可以阅读本专题下面的文章。

3978

2024.08.07

nginx部署php项目教程汇总
nginx部署php项目教程汇总

本专题整合了nginx部署php项目教程汇总,阅读专题下面的文章了解更多详细内容。

122

2026.01.13

nginx配置文件详细教程
nginx配置文件详细教程

本专题整合了nginx配置文件相关教程详细汇总,阅读专题下面的文章了解更多详细内容。

497

2026.01.13

Playwright 测试失败怎么办
Playwright 测试失败怎么办

Playwright测试失败专题汇集超时、定位器匹配、浏览器提前关闭、依赖与插件配置、文件上传、SSL及Docker启动等故障文章,并介绍通过截图、报告和Trace定位错误。

0

2026.10.21

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn