TensorRT C++ API 初始化失败主因是动态库未找到或CUDA/cuDNN版本不兼容；需验证LD_LIBRARY_PATH、ldd解析、严格匹配TRT/CUDA/cuDNN小版本，并链接-lnvinfer等完整依赖。
TensorRT C++ API 初始化失败：检查库链接和版本匹配
直接运行时崩溃或 nullptr 返回（如 createInferRuntime 返回空），大概率是动态库没找对，或者 TensorRT 版本与 CUDA/cuDNN 不兼容。TensorRT 严格绑定 CUDA Toolkit 小版本（比如 TRT 8.6 要求 CUDA 11.8，不兼容 12.x），且需对应 cuDNN 版本。
- 确认
libnvinfer.so所在路径已加入LD_LIBRARY_PATH，用ldd your_app | grep nvinfer验证是否成功解析 - 编译时必须链接完整依赖：-lnvinfer -lnvinfer_plugin -lnvparsers -lnvonnxparser（ONNX 解析需额外开启
ONNX_PARSER构建选项） - 检查
nvidia-smi和nvcc --version输出，再对照 NVIDIA 官方支持矩阵 核对版本组合
加载 engine 文件后推理结果全为 0 或 NaN
常见于输入数据未按 engine 期望的 layout 和 dtype 预处理。TensorRT engine 在构建阶段就固化了输入张量的 shape、data type（float16 或 float32）、memory layout（NCHW/NHWC）、以及是否需要归一化（例如 ImageNet 的 mean/std 是否已 baked 进去）。
- 用
IExecutionContext::getBindingIndex("input_name")获取正确 binding 索引，别硬写 0；多个输入时顺序不一定等于模型定义顺序 - 确保 memcpy 输入数据前，host buffer 是
float32*（即使 engine 是 FP16，host 端仍常传 FP32，由 TRT 自动转换）且内存连续、对齐（推荐用cudaMallocHost分配 pinned memory） - 调用
executeV2前必须先cudaMemcpy输入到 device buffer；输出同理，别漏掉从 device 到 host 的拷贝
如何安全释放 TensorRT 资源避免段错误
TRT 对象之间有隐式依赖关系，释放顺序错乱会 crash。核心原则：子对象先于父对象销毁，且所有 GPU 操作需同步完成后再释放 device memory。
- 执行完
context->executeV2(buffers)后，建议加cudaStreamSynchronize(stream)（如果用了自定义 stream），否则可能在 kernel 还没跑完时就释放 buffers - 销毁顺序应为：
IExecutionContext→ICudaEngine→IRuntime；IPluginFactory（旧版）或IPluginRegistry（v8+）也需在 engine 之后释放 - 全局对象如
ILogger实例可复用，但不要在 runtime 销毁后再访问任何 TRT 接口
使用 ONNX 模型生成 engine 时 parse 失败
onnxParser->parseFromFile 返回 false，但无详细错误——这是 ONNX parser 默认静默失败。必须主动读取 parser 的 error log。
立即学习“C++免费学习笔记（深入）”；
- 创建 parser 后立即调用
parser->reportParsingInfo()和parser->getNbErrors()，再循环调用parser->getError(i)获取具体哪层、哪个属性不支持 - 常见不支持项：Dynamic axes（如 batch 维为 -1）、某些 opset 版本特有算子（如
GatherND在 opset 13 才稳定）、自定义 domain op（需注册 plugin） - 用
polygraphy inspect model model.onnx（需安装 polygraphy）快速查看输入输出 shape 和 op 类型，比手动 debug 快得多
cudaGetLastError() 和 parser->getError()，也别靠猜。 
