PSO编译卡死时GPU占用率为0且进程无响应，需通过工具日志确认阶段，再依驱动降级、禁用内联或IR验证定位死锁、循环依赖等问题。
当显卡在Metal或Vulkan中编译管线状态对象（PSO）时卡住不动、进程无响应、GPU占用率归零且长时间不返回，说明编译线程已被阻塞，必须定位是驱动层死锁、着色器IR验证循环，还是资源依赖闭环。
确认是否为PSO编译阶段卡死
启动应用后观察GPU活动：用nvidia-smi -l 1（NVIDIA）或rocm-smi --showpid（AMD）持续刷新，若GPU Util%长期为0且对应进程PID始终存在，基本可判定卡在PSO编译而非运行时绘制。
对Vulkan应用，在vkCreateGraphicsPipelines调用前插入VK_EXT_debug_utils的debug callback，设置VK_DEBUG_UTILS_MESSAGE_SEVERITY_VERBOSE_BIT_EXT级别——若日志停在“compiling pipeline…”之后再无输出，即为编译卡死。
对Metal应用，启用MTLCaptureManager并设置captureEnabled = YES，但注意：若卡死发生在newRenderPipelineStateWithDescriptor:error:调用内，捕获器本身可能无法注入，需改用os_log在调用前后打点验证。
排查驱动级PSO编译器死锁
方法一：强制降级驱动至已知稳定版本
下载对应GPU厂商发布的LTS（Long-Term Support）驱动分支，例如NVIDIA 535.161.07（2026年4月LTS）、AMD Adrenalin 24.5.1（2026年3月LTS），卸载当前驱动后**完整清除残留**（使用DDU在安全模式下执行），再安装LTS版。这一步能绕过新驱动中引入的PSO编译器递归锁逻辑缺陷。
方法二：禁用驱动内联优化开关
Windows平台：在注册表HKEY_LOCAL_MACHINE\SYSTEM\CurrentControlSet\Control\Class\{4d36e968-e325-11ce-bfc1-08002be10318}\XXXX\EnableShaderInlining下新建DWORD值，设为0；Linux平台：在/etc/modprobe.d/nvidia.conf中添加options nvidia NVreg_EnableShaderInlining=0。该选项关闭驱动对SPIR-V或MSL着色器中间表示的深度内联，避免编译器在处理复杂uniform buffer链式引用时陷入无限展开。
【关键前提】此操作需重启系统生效，且仅对Vulkan/Metal应用有效——DirectX 12 PSO编译由Windows Runtime接管，不受此开关影响。
定位着色器IR层面的验证死循环
第一步：提取待编译的SPIR-V或MSL源码
Vulkan应用中，在vkCreateGraphicsPipelines前调用vkGetPipelineCacheData获取缓存数据头，从中解析出SPIR-V binary offset；Metal应用中，用MTLRenderPipelineDescriptor的vertexFunction和fragmentFunction对象调用functionDescriptor.source获取原始MSL字符串。
第二步：用离线工具验证IR合法性
对SPIR-V：执行spirv-val --relax-logical-pointer --max-struct-depth 16 your_shader.spv，重点观察是否报"loop detected in type dependency graph"——这是结构体嵌套过深触发验证器拓扑排序失败的典型信号。
对MSL：使用"Checking type dependencies"阶段超30秒，说明MSL语义分析器在解析模板特化链时发生回溯爆炸。
第三步：注入编译超时熔断
Vulkan：在VkPipelineCreationFeedbackCreateInfoEXT结构中启用VK_PIPELINE_CREATION_FEEDBACK_VALID_BIT_EXT，并设置pNext指向VkPipelineCompilerControlCreateInfoAMD（需启用VK_AMD_pipeline_compiler_control扩展），将compilerControlFlags设为VK_PIPELINE_COMPILER_CONTROL_FLAG_OVERRIDE_MAX_BACKEND_COMPILER_TIMEOUT_AMD，超时值填3000（毫秒）。
Metal：在MTLRenderPipelineDescriptor创建前，调用[MTLCopyAllDevices() firstObject]获取设备，然后执行[device setMaximumCommandBufferSubmissionTimeout:3.0]——该API虽文档未公开，但在macOS 14.5+中实际生效，可强制中断卡死的pipeline编译。
检查资源绑定图中的循环依赖
方法1：Vulkan Descriptor Set Layout图谱分析
用vkconfig（Vulkan SDK自带）加载应用trace文件，进入“Descriptor Set Layout”视图，查看每个binding的descriptorType与descriptorCount。若发现某binding同时声明为VK_DESCRIPTOR_TYPE_STORAGE_BUFFER和VK_DESCRIPTOR_TYPE_UNIFORM_BUFFER_DYNAMIC，且descriptorCount > 1，则驱动可能在构建绑定表时因动态偏移与存储缓冲区同步域冲突而挂起。
方法2：Metal Render Pipeline反射校验
在MTLRenderPipelineDescriptor配置完成后，调用[device newRenderPipelineStateWithDescriptor:desc error:&error]前，遍历desc.vertexFunction.parameters和desc.fragmentFunction.parameters，检查是否存在同一MTLDataType（如MTLDataTypeTexture）被同时标记为readWrite和readOnly——这种矛盾声明会导致Metal编译器在生成内存访问屏障时陷入状态机死锁。
【易错点】不要依赖Xcode的Build Log判断：它只显示链接阶段错误，而PSO编译死锁发生在runtime，必须通过进程状态和GPU监控交叉验证。
绕过编译期死锁的临时方案
① Vulkan：启用VK_KHR_pipeline_library扩展，将PSO拆分为基础pipeline library + 可复用子pipeline。把易卡死的复杂shader单独编译进library，主pipeline仅引用其handle——驱动对library的编译采用异步分片策略，规避单次大PSO的锁竞争。
② Metal：改用MTLComputePipelineState预编译替代部分渲染逻辑。将原PSO中计算密集的片段着色器逻辑（如物理光照解算）剥离为compute pass，用[device newComputePipelineStateWithFunction:error:]提前编译，再通过MTLStorageModePrivate纹理做中间结果传递——避开render pipeline compiler的全部验证路径。
③ 统一降级：对Vulkan应用，强制启用VK_EXT_extended_dynamic_state3并禁用所有静态管线状态（如depth clamp、logic op），使PSO仅保留最简结构；对Metal应用，在MTLRenderPipelineDescriptor中显式设置colorAttachments[0].pixelFormat = MTLPixelFormatInvalid再立即恢复，触发驱动重建内部状态机，常可解除卡死。
