讲师中心 微信公众号
AI工具推荐 视频效率加速

检查点管理怎么配置自动化脚本定期清理过期的检查点

酷墨酱_1564

酷墨酱_1564

发布时间:2026-10-17 09:42:09

|

107人浏览过

|

来源于php中文网

原创

检查点自动化清理需先精准判定过期或冗余再安全删除:DeepSpeed依latest锚点保留最优及前N代,smolvm按窗口保留最近5个并跳过keep标记,备份类按修改时间留最新5个;脚本须带路径权限校验、--dry-run预览、失败即停、操作留痕,并用crontab或CronJob定时执行。

检查点管理的自动化清理,核心是让脚本按规则识别“该删的”,而不是盲目清空。不同场景(deepspeed、smolvm、数据库备份等)虽技术细节不同,但逻辑共通:先精准判定过期或冗余,再安全执行删除,全程可验证、可回溯。

明确哪些检查点属于“过期”或“无用”

不能只看文件名或时间戳,必须结合业务语义判断:

  • DeepSpeed 类训练检查点:以 latest 文件为锚点,保留它指向的最优目录及其前 N 个历史代(如 global_step100、200),其余非引用目录视为冗余
  • smolvm 检查点:依赖 --branchable 启动的机器才能生成可恢复检查点;定期快照后,应按保留窗口(如最近 5 个)清理旧代,同时跳过手动标记为 keep 的分支点
  • 通用备份类检查点(如 tar.gz、SQL dump):优先用 find -mtime +7 清理 7 天前文件;更稳妥则按修改时间排序,保留最新 5 个:find /path -name "*.tar.gz" -printf '%T@ %p\n' | sort -n | head -n -5 | cut -d' ' -f2- | xargs -r rm

编写轻量、带防护的清理脚本

脚本不追求功能全,而要易读、易调、失败即停:

Windows TTS (WSL2)
Windows TTS (WSL2)

在 Windows 11 上"直接发声"的 TTS(从 WSL2/TUI 调用 powershell.exe + System.Speech)。适用于用户说"说出来/读出来/语音播报/用TTS",或反馈"没声音/tts 生成的 mp3 是空的/播不出来",以及需要中文语音但 OpenClaw 内置 tts 不可用时。

下载
  • 开头检查关键路径是否存在、权限是否足够,缺失则 exit 1 并写日志
  • 所有删除操作前加 --dry-run 开关,默认只打印将删项(如 echo "[DRY] rm -rf $ckpt_dir"),首次运行必须人工核对
  • 真正执行时,用 rm -rf 或对应 API 调用,并捕获返回值;失败立即中断,不继续遍历
  • 每轮清理后记录数量、耗时、磁盘变化(如 df -h),写入统一日志文件,便于监控突增或归零异常

用系统级定时器驱动,别依赖应用内调度

避免用 Python 的 threading.Timer 或框架自带 scheduler——进程重启或异常退出会导致任务丢失:

  • Linux 环境:用 crontab -e 添加稳定任务,例如每天凌晨 2:15 执行:
    15 2 * * * /usr/bin/python3 /opt/clean_checkpoints.py --log-dir /var/log/ckpt-clean >> /var/log/ckpt-clean.log 2>&1
  • Kubernetes 环境:用 CronJob,镜像内置脚本,通过 concurrencyPolicy: Forbid 防止重叠执行,失败自动重试并触发告警
  • 频率建议 12–24 小时一次;高频(如每分钟)既无必要,又可能干扰正常 I/O

上线前必做三件事:验证、隔离、留痕

清理不可逆,防护层缺一不可:

  • 预检验证:在测试环境跑 --dry-run,确认输出的待删列表符合预期(比如没误包含 latest 指向的目录)
  • 白名单隔离:把 CI 基础镜像、标准测试模板、人工冻结的调试检查点 ID 或路径写入 keep_list.txt,脚本加载后跳过匹配项
  • 操作留痕:每条删除记录含时间、检查点路径、判定依据(如 “not referenced by latest”)、执行节点(多机环境),日志保留至少 7 天

热门AI工具

更多
PixTV
PixTV Hot

PixTV是一款面向AIGC内容创作的AI视频生成工具。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
PHP 命令行脚本与自动化任务开发
PHP 命令行脚本与自动化任务开发

本专题系统讲解 PHP 在命令行环境(CLI)下的开发与应用,内容涵盖 PHP CLI 基础、参数解析、文件与目录操作、日志输出、异常处理,以及与 Linux 定时任务(Cron)的结合使用。通过实战示例,帮助开发者掌握使用 PHP 构建 自动化脚本、批处理工具与后台任务程序 的能力。

486

2025.12.13

Figma AI自动化智能数据填充与交互生成实战
Figma AI自动化智能数据填充与交互生成实战

告别机械重复,详细演示如何用 AI 填充业务真实数据,并自动为页面添加交互连线,将静态设计稿快速转变为动态原型。

305

2026.05.13

系统架构有哪些种类
系统架构有哪些种类

系统架构种类有单库单应用架构、内容分发架构、读写分离架构、微服务架构、多级缓存架构、分库分表架构等。想了解更多系统架构的相关内容,可以阅读本专题下面的文章。

2678

2023.11.14

OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

0

2026.10.16

OpenJDK怎么配置Java开发环境
OpenJDK怎么配置Java开发环境

怎样用OpenJDK搭建开发环境?本专题介绍版本选择、下载安装、环境变量配置和编译运行验证,帮助你理清JDK的作用及基本配置流程,并通过简单程序检查环境是否可用,为后续项目开发做好准备。

0

2026.10.16

OpenJDK怎么部署Java应用
OpenJDK怎么部署Java应用

Java项目开发完成后,怎样部署到目标环境并正常运行?本专题介绍OpenJDK应用部署流程,涵盖运行环境准备、版本兼容检查、应用打包、启动参数配置和日志查看,帮助你理清部署前后的操作顺序,减少环境差异造成的运行问题。

0

2026.10.16

Revel框架模板渲染与表单验证
Revel框架模板渲染与表单验证

本专题围绕Revel框架视图层开发,介绍模板语法、变量输出、布局复用、表单提交、参数绑定与验证规则,帮助开发者完成安全规范的页面交互。

0

2026.10.16

Revel框架MVC路由与控制器
Revel框架MVC路由与控制器

本专题聚焦Revel框架MVC核心机制,讲解路由定义、控制器Action、参数绑定、请求响应和反向路由,并结合常见场景梳理接口请求处理流程。

0

2026.10.16

Revel框架入门与安装配置
Revel框架入门与安装配置

本专题从Revel框架环境搭建讲起,系统介绍命令行工具安装、项目创建、目录结构、配置文件及热代码重载,帮助开发者快速完成首个Go Web应用。

0

2026.10.16

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Conan 2 安装指南
Conan 2 安装指南

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn