AVX2矩阵乘性能瓶颈在于内存对齐、分块策略、预取机制和批量处理四点：需\_mm\_malloc对齐分配；至少两级分块并预转置B；手动\_mm\_prefetch避免L1缺失；统一接口处理trans/batch避免指针错误。
内存对齐没做，_mm256_load_ps 直接崩溃或静默降级
AVX2 要求 float* 地址能被 32 整除，否则 _mm256_load_ps 在部分 CPU 上触发 #GP 异常，另一些则自动退化成标量路径——性能掉 3–5 倍，还难复现。用 new float[n] 或 std::vector<float></float> 分配的内存几乎都不满足条件。
- 必须用
_mm_malloc(size, 32)分配，_mm_free(ptr)释放；aligned_alloc(32, size)也可，但要确保size % 32 == 0 - 验证对齐：打印
(uintptr_t)ptr & 31，结果必须恒为0 - 矩阵维度（如
K）建议按 8 或 16 向上补齐，避免边界分支打乱流水线
不分块就写三层循环，L1d 缓存命中率低于 30%
不加任何分块的手写 AVX 矩阵乘，每算一个 C[i][j] 都要重载整行 A 和整列 B，而 B 的列访问是跨步的，L1d 行反复被踢出。实测 miss rate 超过 70%，CPU 大部分时间在等数据，不是在算。
- 至少做两级分块：外层按
MC×KC子矩阵驻留 L1，内层按8×8tile 计算 -
A保持行主序，B推荐预转置成行主序（或现场按列访问时用_mm256_i32gather_ps+ shuffle，但更慢） - 每个 tile 内，
A数据只加载一次，B每 8 个元素复用一次，C累加进寄存器再回写
不手动 _mm_prefetch，AVX 吞吐率掉一半
硬件预取器对 B 的列访问基本失效。L2→L1 延迟约 12–15 cycle，而 _mm256_fmadd_ps 只需 1–2 cycle，空等占大头。不做预取，再好的分块也白搭。
C++ Code Review Master
下载
组合式C++代码评审方案，融合静态分析、AI推理、多轮迭代评审和C++专项检查，适用于PR审查、增量代码审查、全项目评审和代码质量评分，触发词包括review cpp、cpp代码评审、C++review、代码审查。
- 计算当前 A 块前，用
_mm_prefetch(&A[i + 64], _MM_HINT_NTA)提前拉取后续 64 字节（2 个 AVX 向量） - 对
B，沿列方向每隔 8 行预取一次：_mm_prefetch(&B[(t + 8) * ldb + j], _MM_HINT_NTA) - 统一用
_MM_HINT_NTA：避免污染 cache，适合只读一次的大块数据
transA/transB 和 batch 场景硬塞进一个函数，指针偏移必错
深度学习里 matmul 很少是纯 A×B，更多是 B×AT 或 batched [b, m, k] × [b, k, n]。用 if-else 切换 layout，容易错在 ldA、ldB、指针偏移和 stride 上，一跑就越界或结果全零。
立即学习“C++免费学习笔记（深入）”；
- 定义统一接口：
simd_gemm(bool transA, bool transB, int M, int N, int K, const float* A, int ldA, ...) - transpose 不现场转，改访问模式：
transA ? A[j * ldA + i] : A[i * ldA + j] - batch 场景下，外层循环跑
b次，每次调用前更新指针：A += b_stride、B += b_stride、C += b_stride
真正卡住性能的从来不是 _mm256_fmadd_ps 写得够不够多，而是对齐没验、分块尺寸拍脑袋定、预取位置没校准、batch 步长算错——这些点一错，整段 SIMD 就退化成标量。
