Core ML Tools版本决定PyTorch算子支持范围,v7.1是分水岭:低于该版本不支持SiLU、where、scatter等算子;升级至v7.2+可支持MultiheadAttention(需batch_first=True);兼容iOS 14需降级spec;SiLU可替换为ReLU或手动展开;where改用浮点掩码计算;scatter需重写为index_select+cat或index_put_;避免Python控制流混入trace图;输入shape必须显式固定,不支持None batch。

coremltools版本决定你能用哪些PyTorch算子
CoreML Tools 对 PyTorch 算子的支持不是线性演进的,v7.1 是个分水岭。低于这个版本,torch.nn.SiLU、torch.where、torch.scatter 这类常见操作基本直接报 Unsupported operator: aten::silu。这不是模型写错了,是转换器压根没注册对应映射。
运行 pip show coremltools 确认当前版本。若显示 Version: 6.3 或更低,升级是最快解法:pip install --upgrade coremltools。v7.2+ 还开始支持 torch.nn.MultiheadAttention(但要求 batch_first=True),旧版连 trace 都过不了。
SiLU、where、scatter 这三类高频报错算子怎么绕过去
就算升了版本,有些场景仍得手动干预——比如要兼容 iOS 14(只支持 Core ML 4),而 v7.1+ 导出的模型默认用 Core ML 5 spec。
-
SiLU:替换成nn.ReLU最省事;若必须保持行为,手动展开为x * torch.sigmoid(x),但导出时得禁用 TorchScript 优化:torch.jit.trace(model, example_input, check_trace=False) -
torch.where:避免用三元条件形式torch.where(cond, a, b),改用cond.float() * a + (1 - cond.float()) * b(前提是cond是 bool tensor) -
torch.scatter:没有直接等价替换,得重写逻辑——用index_select+cat拼接,或提前预分配 output tensor 后用tensor.view(-1).index_put_
别让 Python 控制流混进 trace 图里
torch.jit.trace 能跑通不代表 coremltools.convert() 能过。trace 图里一旦出现 prim::Constant 或 prim::ListConstruct,说明有 Python 层逻辑渗入,比如:
立即学习“Python免费学习笔记(深入)”;
-
len(tensor)或tensor.item()—— 改用tensor.numel()或tensor.squeeze().item(),且确保 shape 在 trace 时已知(不能是动态 batch) - for 循环遍历 list —— 改成
torch.stack+torch.unbind,或用torch.vmap(v2.0+) - if 判断 tensor 值 —— 必须转成纯 tensor 操作,例如用
torch.where替代条件分支
检查 trace 图最直接的方式是打印 traced_model.graph,看到 prim:: 开头的节点就该警惕。
输入 shape 必须显式、固定,尤其 batch 维
Core ML 不支持完全动态的 batch size。即使你希望模型接受任意 batch,coremltools.convert() 的 inputs 参数也必须传 coremltools.TensorType(shape=(1, 3, 224, 224)) 这种明确 shape,不能写 (None, 3, 224, 224)。
如果你真需要多 batch 支持,有两个选择:
- 导出多个单 batch 模型(
batch_size=1,batch_size=4,batch_size=8),iOS 运行时按需加载 - 在 Swift 层用
VNCoreMLRequest批量提交图像,由 Vision 框架内部做 batch 化,不依赖模型本身支持
另外,像 U-2-Net 这类输出 shape 依赖输入的模型,务必在 trace 前用 model.eval() 和 torch.no_grad() 包裹,否则 dropout/batchnorm 会引入不可控分支,导致 convert 失败。


















