pad_sequences 是变长序列输入 RNN 的前提，因其将不等长序列统一为固定形状 (batch_size, timesteps, features)，满足 Keras LSTM/GRU 对 3D 张量的输入要求，避免堆叠报错。
为什么 pad_sequences 是变长序列进 RNN 的前提？
Keras 的 LSTM 和 GRU 层默认只接受固定形状的 3D 张量：(batch_size, timesteps, features)。如果你直接把一堆长度不一的列表（比如 [[1,2], [1,2,3,4,5], [1]]）喂给模型，会报错 ValueError: Input arrays should have the same number of samples as target arrays —— 实际上是底层在尝试堆叠时发现维度不匹配。
必须先对齐时间步，最常用做法就是用 tf.keras.preprocessing.sequence.pad_sequences 做零填充：
from tensorflow.keras.preprocessing.sequence import pad_sequences <p>sequences = [[1,2], [1,2,3,4,5], [1]] padded = pad_sequences(sequences, padding='post', maxlen=5)</p><h1>输出：[[1, 2, 0, 0, 0],</h1><h1>[1, 2, 3, 4, 5],</h1><h1>[1, 0, 0, 0, 0]]</h1><p>
-
padding='post'表示在末尾补零（推荐），避免把有效信息“挤”到后面，影响 RNN 时序感知 -
maxlen要略大于训练集最长序列，太小会截断，太大则浪费显存和计算 - 如果序列极不均匀（比如最长 1000，但 95% 都 ≤50），可考虑先过滤或分桶，而不是硬设
maxlen=1000
如何让 RNN 忽略填充的零？用 mask_zero=True 和 Masking
光 padding 不够——RNN 仍会把填进去的 0 当成真实输入参与计算，导致梯度污染和预测偏移。必须显式声明哪些位置是“无效”的。
立即学习“Python免费学习笔记（深入）”；
有两种等效方式，推荐第一种：
- 在嵌入层（
Embedding）中设mask_zero=True，且 embedding 向量第 0 维全为 0（Keras 默认满足）。后续所有支持 masking 的层（如LSTM、GRU）会自动跳过这些位置 - 不用
Embedding时（比如输入已是数值特征），可在模型开头加Masking(mask_value=0.0)层
错误示范：LSTM(units=64, mask_zero=True) —— mask_zero 是 Embedding 的参数，不是 LSTM 的，这么写会静默忽略，不起作用。
处理超长序列时，return_sequences=False 和 True 对输出形状的影响
变长输入 + RNN 容易混淆输出 shape，尤其接后续 Dense 层时报 Dimension mismatch。关键看你要什么：
-
return_sequences=False（默认）→ 输出 shape 是(batch_size, units)，即每个样本压缩成一个向量。适合分类任务 -
return_sequences=True→ 输出 shape 是(batch_size, timesteps, units)，保留每一步隐状态。适合序列标注（如 NER）、或接TimeDistributed(Dense(...))
注意：timesteps 是 padding 后的长度（比如 maxlen=100），不是原始长度。若你只关心最后一个有效步的输出，别直接取 output[:, -1, :] —— 最后一位很可能是填的零。应配合 Masking 或用 GlobalMaxPool1D 等聚合层。
验证 mask 是否生效：检查 model.layers[1].output_mask
实际项目中，mask 失效很难察觉，直到验证指标异常波动。最直接的调试方式是打印中间层的 mask：
model = Sequential([
Embedding(input_dim=1000, output_dim=64, mask_zero=True),
LSTM(32, return_sequences=True)
])
# 构造一个带 padding 的 batch
x = pad_sequences([[1,2,0], [1,2,3,4,0]], padding='post', maxlen=5)
print(model.layers[1].output_mask) # 应输出类似 Tensor(".../Masking_1/Identity:0", shape=(None, 5), ...)
如果输出是 None，说明 mask 没传下去——常见原因：前一层没设 mask_zero=True，或用了不支持 masking 的层（如普通 Dense）插在中间。
另外，model.compile() 时若用 sparse_categorical_crossentropy，确保标签也按 padding 对齐；否则 loss 计算会把填充位置也纳入，结果虚高。
