AVX2矩阵乘法比普通循环快，关键在于其256位寄存器可单指令并行处理8个float，配合内存对齐（32字节）、分块优化（如32×32）及编译选项（-mavx2 -O3）显著提升指令吞吐与缓存命中率。
AVX2矩阵乘法为什么比普通循环快？关键在数据对齐和指令吞吐
普通 _mm256_load_ps 要求内存地址 32 字节对齐，否则触发 segmentation fault 或 silently fallback 到慢速路径。AVX2 的 256 位寄存器一次处理 8 个 float，但前提是：输入矩阵 A/B 的行/列必须按块（如 8×8）重排为 packed layout，否则 cache miss 暴涨，速度反不如标量循环。
- 用
aligned_alloc(32, size)分配内存，而非new float[n] - 避免跨 cache line 加载：例如对 A 的一行做
_mm256_load_ps(&A[i*lda + j])前，先确保j % 8 == 0且lda是 8 的倍数 - 编译时加
-mavx2 -O3 -march=native，禁用-ffast-math（它可能破坏向量化条件判断）
AVX-512 的 _mm512_dpbf16_ps 不是万能加速器，只适用于 BF16 场景
Intel SPR 架构的 _mm512_dpbf16_ps 指令专为 bfloat16 矩阵乘设计，但要求：A 必须是 BF16、B 必须是 BF16、结果累加到 float 寄存器。若强行用 float 输入调用该指令，编译器不会报错，但运行时触发 illegal instruction —— 因为指令编码本身不兼容。
- BF16 数据需用
__bf16*指针加载，不能用float*强转 - 必须启用
-mavx512bf16编译选项，仅-mavx512f不够 - 即使硬件支持，也要检查
cpuid的EBX[bit 5]（AVX512_BF16 flag），Linux 下可用cat /proc/cpuinfo | grep avx512_bf16
矩阵分块（tiling）大小不是越大越好，要匹配 L1/L2 cache 容量
AVX2 下常见错误是把分块设成 64×64 —— 这需要 64×64×4 = 16KB 存储 A 块、同样 16KB 存 B 块，远超多数 CPU 的 32KB L1 data cache，导致频繁 evict/reload。实测在 Intel i7-8700K 上，32×32 分块比 64×64 快 1.8 倍。
- 推荐初始值：
M_BLOCK = 24,N_BLOCK = 16,K_BLOCK = 8（适配 AVX2 的 8-float 并行度） - AVX-512 可提升至
M_BLOCK = 32,N_BLOCK = 32,K_BLOCK = 16，但需确认 L2 cache ≥ 256KB - 用
perf stat -e cache-misses,instructions验证：理想 cache miss rate 应
编译器自动向量化常失效，手写 intrinsics 时别漏掉 _mm256_store_ps 对齐检查
Clang/GCC 对嵌套三重循环的 auto-vectorization 很保守：只要内层有 if (j 边界判断，或指针偏移含非线性表达式（如 <code>&A[i*lda + j*2]），就放弃向量化。手写 AVX 时最易忽略的是 store 操作——_mm256_store_ps 同样要求目标地址 32 字节对齐，而结果矩阵 C 的某行末尾可能未对齐。
立即学习“C++免费学习笔记（深入）”；
- 对 C 的每行末尾用
_mm256_storeu_ps（un-aligned store）兜底 - 避免在循环内反复调用
_mm256_setzero_ps()，提前提到外层并复用__m256 zero = _mm256_setzero_ps() - 用
__attribute__((hot))标记核心计算函数，防止编译器 inline 失败
