讲师中心 微信公众号
AI工具推荐 视频效率加速

JAX 中 vmap 与 custom_vjp 组合使用时的常见陷阱及正确用法

星宇姑娘_5275

星宇姑娘_5275

发布时间:2026-01-09 14:13:40

|

124人浏览过

|

来源于php中文网

原创

JAX 中 vmap 与 custom_vjp 组合使用时的常见陷阱及正确用法

当对带有 `custom_vjp` 的函数调用 `vmap` 后再使用 `vjp`,若直接覆写原函数名会导致前向传播中递归调用错误的 vmapped 版本,从而引发 cotangent 形状不匹配的错误;正确做法是保留原始函数不变,仅对新变量赋值 vmapped 版本。

在 JAX 中,custom_vjp 允许用户自定义前向和反向传播逻辑,而 vmap 则用于向量化操作。二者结合使用时需格外注意函数绑定与作用域问题——最典型的错误是将 vmap 结果直接赋值给原函数名(如 test_func = vmap(test_func, ...)),这会破坏 custom_vjp 前向函数(test_func_fwd)内部对原始未向量化函数的预期调用。

回顾问题代码:在 test_func_fwd 中,primal_out = test_func(f, primal) 这一行本意是调用原始标量版 test_func,但由于 test_func 已被重新绑定为 vmap 版本,实际执行的是 vmap(test_func)(f, primal)。该调用将输入 primal(形状 (10, 3))沿 batch 轴展开,导致前向输出变为 (10,),但 custom_vjp 的反向逻辑仍按标量语义构造残差(residual = 2. * primal * primal_out),其中 primal 是 (10, 3) 而 primal_out 是 (10,),广播后 residual 变为 (10, 3)。最终 vjp 拉回(pullback)函数接收到的 cotangent 是 (10,)(对应输出形状),却试图与 (10, 3) 的梯度做运算,JAX 在校验阶段即抛出误导性错误:“cotangent shape (10,) must match primal input shape (10, 3)”。

✅ 正确解法是避免污染原始函数名,显式命名 vmapped 版本:

应用程序在线商店宣传网站模板
应用程序在线商店宣传网站模板

应用程序在线商店宣传网站模板是一款提供免费应用程序在线商店宣传网站模板下载。提示:本模板调用到谷歌字体库,可能会出现页面打开比较缓慢。

下载
# ✅ 保留 test_func 不变,创建新变量
test_func_mapped = vmap(test_func, in_axes=(None, 0))

# 使用 test_func_mapped 进行 vjp
primal, f_vjp = vjp(partial(test_func_mapped, f), jnp.ones((10, 3)))
cotangent = jnp.ones(10)
cotangent_out = f_vjp(cotangent)  # 输出形状为 (10, 3),符合预期

⚠️ 注意事项:

  • custom_vjp 的前向函数(fwd)必须严格调用原始未修饰的函数,不可依赖全局变量动态变化;
  • 若需多层嵌套(如 vmap + jit + custom_vjp),建议始终采用“函数工厂”模式:先定义基础函数,再按需封装,避免就地覆写;
  • 可通过 jax.make_jaxpr 或 jax.eval_shape 验证前向输出形状是否符合 custom_vjp 设计假设。

总结:JAX 的函数式特性要求开发者对绑定关系保持显式控制。vmap 不应覆盖原始 custom_vjp 函数,而应作为独立转换结果参与后续计算——这是保障梯度逻辑正确性的关键约定。

热门AI工具

更多
VibeKnow
VibeKnow Hot

一款AI视频创作工具,主要用于全球首个AI知识视频创作平台,文档、文章、网页,一键生成视频,适合需要提升相关任务效率的用户。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

LibLibAI
LibLibAI Hot

一款AI视频创作工具,主要用于国内领先的AI创意平台,以海量模型、低门槛操作与“创作-分享-商业化”生态,让小白与专业创作者都能高效实现图文乃至视频创意表达,适合需要提升相关任务效率的用户。

Loomy
Loomy Hot

一款AI工具,主要用于科大讯飞发布的桌面级 AI 助理,比 OpenClaw 更易用、更安全!,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

相关专题

更多
全局变量怎么定义
全局变量怎么定义

本专题整合了全局变量相关内容,阅读专题下面的文章了解更多详细内容。

4165

2025.09.18

python 全局变量
python 全局变量

本专题整合了python中全局变量定义相关教程,阅读专题下面的文章了解更多详细内容。

1730

2025.09.18

c++ 全局变量
c++ 全局变量

本专题整合了c++全局变量的使用、定义、作用域等等内容,阅读专题下面的文章了解更多详细内容。

199

2026.03.17

点击input框没有光标怎么办
点击input框没有光标怎么办

点击input框没有光标的解决办法:1、确认输入框焦点;2、清除浏览器缓存;3、更新浏览器;4、使用JavaScript;5、检查硬件设备;6、检查输入框属性;7、调试JavaScript代码;8、检查页面其他元素;9、考虑浏览器兼容性。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。

754

2023.11.24

C++运算符基础入门
C++运算符基础入门

本专题详细讲解了C++运算符的类型、语法与使用方法,涵盖算术运算符、关系运算符、逻辑运算符、位运算符、赋值运算符、条件运算符及其他特殊运算符,并通过代码示例解析优先级与结合性。

0

2026.10.09

PixPix官网入口合集
PixPix官网入口合集

本专题汇总了PixPix官网在线使用入口及平台功能详解,涵盖文生图、图生图、AI图片编辑、AI视频创作等核心能力,并整理了AI爆款图片复刻、商品套图、详情页生成、视频变清晰与去水印等电商专项工具的使用教程。同时收录了PixPix MCP接入Codex、Claude Code等主流Agent的操作指南,助您一站式完成AI图片与视频创作。

0

2026.10.09

FrankenPHP集成Laravel详细教程
FrankenPHP集成Laravel详细教程

本专题提供FrankenPHP集成Laravel的详细配置指南,全面解析运行原理、开发环境搭建、Caddyfile配置、Octane工作模式、数据库连接、队列任务、定时任务和生产环境优化,解决部署过程中常见的报错与兼容性问题。

60

2026.10.08

LLVM自定义Pass怎么写
LLVM自定义Pass怎么写

本专题聚焦LLVM自定义Pass开发,整理Pass类结构、run()方法、PreservedAnalyses、CMake构建、插件注册、-load-pass-plugin加载和测试用例编写流程。

160

2026.09.30

LLVM RISC-V参数配置教程
LLVM RISC-V参数配置教程

本专题介绍LLVM对RISC-V基础ISA和扩展的支持方式,涵盖RV32、RV64、标准扩展、实验性扩展、厂商扩展、-menable-experimental-extensions和版本差异。

140

2026.09.30

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
uni-app从入门到实战教程
uni-app从入门到实战教程

共0课时 | 0人学习

uni-app x harmony开发指南
uni-app x harmony开发指南

共0课时 | 0人学习

uni-app鸿蒙运行和发行
uni-app鸿蒙运行和发行

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn