AVX2矩阵乘法更快的关键在于数据对齐和指令吞吐：需16字节内存对齐、行主序且每行长度为8的倍数，配合_mm256_load_ps、_mm256_mul_ps和_unroll循环，并启用-O3 -mavx2 -mfma编译选项。
AVX2矩阵乘法为什么比普通循环快？关键在数据对齐和指令吞吐
AVX2能一次处理8个float（256位），但前提是内存读取地址必须16字节对齐，否则触发#GP异常或性能暴跌。很多初学者直接用new float[n]分配内存，结果跑得比标量还慢——因为默认分配不保证对齐。
- 必须用
_mm256_load_ps（非对齐用_mm256_loadu_ps，但慢30%+） - 输入矩阵需按行主序、每行长度是8的倍数，不足补零；实际中建议用
aligned_alloc(32, size)或_mm_malloc -
_mm256_mul_ps和_mm256_add_ps是核心，但要注意：加法有依赖链，需展开循环（unroll 4次以上）才能打满流水线 - 别忽略编译器优化等级：
-O3 -mavx2 -mfma必须启用，否则内联函数可能被降级为标量
AVX-512实现GEMM时，_mm512_dpbf16_ps和_mm512_fmadd_ps怎么选？
AVX-512 BF16加速只在Intel Sapphire Rapids及更新CPU上支持，且需开启-mavx512bf16。若目标平台不支持，强行调用会链接失败或运行时SIGILL。更常见的是用FP32做_mm512_fmadd_ps——它把乘加合并为单指令，比分开调用mul+add省一个周期。
-
_mm512_dpbf16_ps只接受BF16输入，输出FP32，需先用_mm512_cvtpbh_ps转换，适合模型推理场景 -
_mm512_fmadd_ps要求三个输入都是FP32，但吞吐更高；注意其操作数顺序：a * b + c，别把累加器c写成常量 - 寄存器冲突很隐蔽：AVX-512有32个ZMM寄存器，但Linux默认只保存低16个，开启
AVX512VL扩展后才全保存，否则上下文切换可能出错
手写汇编还是用Intel MKL或OpenBLAS？真实项目里怎么决策
自己写AVX2/512 GEMM在小矩阵（比如64×64）上可能比MKL快，因为MKL有启动开销和分支预测代价；但超过256×256后，MKL的分块策略、多级缓存预取、线程调度优势就碾压手工代码。除非你明确知道瓶颈在某一层特定尺寸，否则别过早优化。
- 验证是否真需要自研：先用
perf record -e cycles,instructions,cache-misses看热点，如果gemm_kernel只占5%，优化它没意义 - MKL的
cblas_sgemm默认用AVX-512，但需设置export MKL_ENABLE_INSTRUCTIONS=AVX512，否则回落到AVX2 - OpenBLAS的
sgemm在ARM平台更友好，但x86下对AVX-512支持滞后，某些版本仍用AVX2 fallback
最容易被忽略的兼容性陷阱：__builtin_ia32_vcvtdq2ps512在GCC和Clang行为不同
这个内在函数在GCC 12+中生成vcvtdq2ps zmm指令，但在Clang 14之前会降级为多个vcvtdq2ps xmm拼接，导致性能断崖式下跌。更麻烦的是，某些老版glibc的malloc返回地址不满足64字节对齐，_mm512_load_ps直接崩溃。
立即学习“C++免费学习笔记（深入）”；
- 检测CPU是否支持AVX-512：
if (__builtin_ia32_xgetbv(0) & 0x60) {...}，不能只查cpuid标志位 - 动态分发比编译期宏更安全：用
if (avx512_available()) { run_avx512(); } else if (avx2_available()) { run_avx2(); } - 所有AVX-512向量变量声明必须加
alignas(64)，局部数组不行，必须堆分配或静态分配
硬件加速不是插上AVX指令就完事——对齐、分支、寄存器、编译器、运行时环境，漏掉任何一环都可能让256位宽通道变成拖后腿的摆设。
