WeightedRandomSampler比手动重复采样更可靠，因其在DataLoader层按概率采样而不复制样本，避免过拟合和梯度偏差；权重需为float型一维Tensor，长度等于dataset长度，且须配合shuffle=False使用。
WeightedRandomSampler 为什么比手动重复采样更可靠？
手动复制少数类样本看似简单，但会放大过拟合风险，且破坏 batch 内统计独立性；WeightedRandomSampler 在 DataLoader 层做概率采样，不改变原始 dataset，也不引入重复样本的梯度偏差。它真正调整的是每个样本被选中的概率权重，而不是硬复制。
- 权重必须是
float类型的一维Tensor，长度等于 dataset 长度 - 权重越大的样本，被采中的概率越高，但每次仍只取一个索引（不是“按权重复制”）
- 必须配合
shuffle=False使用——因为 sampler 本身已负责随机性，再开 shuffle 会导致行为不可控 - 如果你用
num_samples指定 epoch 样本数，建议设为len(dataset)或略大（如int(1.2 * len(dataset))），否则可能漏掉某些类
怎么算每个样本的 weight？别直接用 1 / class_freq
常见错误是把类别频率当权重倒数直接广播，比如：class_weights = 1.0 / torch.bincount(labels) → 然后 weights = class_weights[labels]
这在 label 是连续整数（0,1,2,…）时可行，但一旦 label 是字符串、稀疏 ID 或从 1 开始编号，就会越界或错位。
正确做法是先映射 label 到连续索引，或用 torch.unique(labels, return_counts=True) 安全获取频次：
_, counts = torch.unique(labels, return_counts=True)
class_weight = 1.0 / counts.float()
weight_map = {int(l): w for l, w in zip(_.tolist(), class_weight.tolist())}
weights = torch.tensor([weight_map[int(l)] for l in labels])
注意：labels 必须是 torch.Tensor 或可转为 list 的结构；如果 dataset 的 <strong>getitem</strong> 返回的是 dict，得先抽取出 label 字段。
和 class_weight 参数冲突吗？能一起用吗？
WeightedRandomSampler 和 loss 函数里的 weight 参数（如 nn.CrossEntropyLoss(weight=...)）作用层面不同，可以共存，但要小心双重校正：
立即学习“Python免费学习笔记（深入）”；
-
WeightedRandomSampler影响数据分布 → 改变每个 batch 中各类样本数量 -
weight参数影响 loss 计算 → 对少数类预测错误施加更高惩罚
二者叠加可能导致少数类被过度强化，尤其在小 batch size 下容易震荡。实操建议：
- 先只用
WeightedRandomSampler，观察 val loss 是否稳定下降 - 若仍有 bias，再微调 loss 的
weight，建议用weight = 1.0 / (counts + 1e-6)归一化后缩放 0.5 倍 - 绝对不要用
class_weight='balanced'（sklearn 风格）和WeightedRandomSampler同时启用，那等于在两个维度上强行拉平分布，模型反而学不到真实判别边界
训练时 loss 下降但 val F1 不涨？检查 sampler 是否生效
最常被忽略的点：没确认 WeightedRandomSampler 真正在起作用。验证方法很简单：
loader = DataLoader(dataset, sampler=sampler, batch_size=32) batch = next(iter(loader)) print(torch.bincount(labels[batch.indices])) # 注意：indices 是 sampler 返回的，不是 batch 的 label
如果你没保存 sampler 的 indices（它不暴露在 batch 中），就改用：
sampler = WeightedRandomSampler(weights, num_samples=1000, replacement=True)
for i, idx in enumerate(sampler):
if i >= 100: break
print(f"sample {idx} has label {labels[idx]}")
运行几轮，看少数类索引是否高频出现。如果输出里几乎看不到 label=0（假设它是少数类），说明权重设置反了——你可能把多数类的权重设高了。
权重逻辑永远记住：你要抬高的是“被选中机会”，不是“重要性分数”。所以少数类样本对应权重必须显著大于多数类。
