PyTorch剪枝必须使用torch.nn.utils.prune模块，依赖掩码机制实现结构化剪枝；剪枝后须调用prune.remove融合权重并移除掩码，否则无法减参提速，且不可直接jit.trace导出。
PyTorch剪枝必须用 torch.nn.utils.prune 模块
PyTorch不提供“一键剪枝”函数，所有结构化剪枝（如按通道、按层）都依赖 torch.nn.utils.prune 中的类和工具函数。直接修改 weight.data 或手动置零权重属于非结构化剪枝，无法减少实际参数量或加速推理——因为稀疏张量未被后端优化支持。
关键点在于：剪枝操作会同时维护原始参数（weight）和一个可学习的掩码（weight_mask），两者相乘才构成真正参与计算的权重。因此必须调用 prune.custom_from_mask 或 prune.l1_unstructured 等接口，不能跳过掩码机制。
-
prune.ln_structured适合通道级剪枝（如卷积层输出通道），需指定n=1和dim=0 -
prune.random_structured仅用于调试，不具备判别力 - 剪枝后模型仍含完整参数，需调用
prune.remove才能永久移除被剪权重和掩码
剪枝后必须调用 prune.remove 才能导出/部署
很多人在训练中完成剪枝后直接保存 state_dict，结果发现模型大小没变、推理速度也没提升——这是因为 prune 默认是“临时性”的：掩码只是控制计算时的输入，原始参数仍在内存里。
prune.remove 的作用是把掩码与原始权重融合，删掉 _mask 和 _orig 属性，并将最终值写回原参数名（如 weight）。这一步不可逆，且必须在训练收敛后、保存前执行。
立即学习“Python免费学习笔记（深入）”；
创建 Flask + Vue.js 全栈项目，采用单端口架构、uv 依赖管理、结构化日志和生产级前端设计。当用户要求以下操作时触发：创建新的 Flask+Vue 项目、搭建 Web 应用、构建全栈 Python+Vue 应用、初始化 Flask Web 项目、设置单端口 Flask 前后端项目。触发词：新建项目、创建项目、搭建项目、Flask项目、Vue项目。
- 错误做法：
torch.save(model.state_dict(), ...)剪枝后立即保存 - 正确流程：先
prune.remove(model.conv1, 'weight')，再torch.save(model.state_dict(), ...) - 若对多个模块剪枝，需对每个目标参数分别调用
prune.remove
自定义剪枝逻辑要继承 BasePruningMethod
当内置方法（如 l1_unstructured）不满足需求时（例如按梯度敏感度剪枝、按 Hessian 近似重要性剪枝），必须自己实现裁剪逻辑。PyTorch 要求显式继承 torch.nn.utils.prune.BasePruningMethod 并重写 compute_mask 方法。
注意：该方法接收 module 和 default_mask，返回一个布尔型掩码；不能直接修改 module.weight，否则破坏剪枝系统的一致性。
- 必须设置
PRUNING_TYPE = "unstructured"或"structured"，影响后续校验 - 掩码 shape 必须与被剪参数完全一致
- 不要在
compute_mask中做 forward 或 backward，它只在apply时调用一次
剪枝后的模型不能直接用 torch.jit.trace 导出
PyTorch 的剪枝引入了动态属性（如 _mask、_orig），而 torch.jit.trace 只捕获 forward 计算图，不记录这些元信息。如果未先调用 prune.remove 就 trace，生成的模型会丢失剪枝效果，甚至报错 AttributeError: 'Conv2d' object has no attribute 'weight_mask'。
更隐蔽的问题是：即使 trace 成功，由于掩码未被 trace 进入图中，推理时仍是全量权重参与计算。
- 安全导出路径：剪枝 →
prune.remove→ 修改模型结构（如替换为等效小卷积）→ 再torch.jit.trace - 若需保留稀疏性用于定制推理引擎，应导出为 ONNX 并手动处理掩码逻辑，而非依赖 JIT
prune.remove 的调用时机和范围——它不会递归处理子模块，必须精确到每个被剪参数；另外，很多轻量级模型剪枝后虽参数减少，但因未重排内存布局（如 channel 数未对齐硬件向量化要求），反而导致推理变慢。 
