
本文介绍在使用train_test_split分割数据后,如何将x_train、x_test、y_train、y_test重新组合成结构完整、列名与原始dataframe完全一致的dataframe,并导出为csv文件,确保特征顺序、列名及数据完整性不被破坏。
本文介绍在使用train_test_split分割数据后,如何将x_train、x_test、y_train、y_test重新组合成结构完整、列名与原始dataframe完全一致的dataframe,并导出为csv文件,确保特征顺序、列名及数据完整性不被破坏。
在机器学习流程中,常需将原始数据集(如df)按特征(X)和标签(y)分离,并进一步划分为训练集与测试集。但有时出于版本存档、协作共享或后续分析需要,我们希望将分割后的数据无损还原为原始格式的完整数据集——即恢复原始列名、列顺序,并准确拼接所有样本(含训练+测试),且不引入顺序错乱或结构偏移。
关键前提是:原始df的列结构为[feature_1, feature_2, ..., label],其中label是最后一列(如题中df.iloc[:, -1]所示)。因此,重建时必须严格保持该列顺序。
✅ 正确做法如下(推荐使用 pandas,兼顾可读性与结构安全性):
Miller (mlr) 是一个命令行工具,用于查询、整形和重新格式化名称索引数据,如 CSV、TSV、JSON 和 JSON Lines。它将 awk、sed、cut、join 和 sort 的功能整合到一个专为结构化数据处理而构建的单一工具中。
import pandas as pd
import numpy as np
from sklearn.model_selection import train_test_split
# 假设原始数据已加载
# df = pd.read_csv("original.csv")
# 分割前保留原始列名(尤其注意 label 列位置)
feature_cols = df.columns[:-1].tolist() # 所有特征列名(不含 label)
label_col = df.columns[-1] # 标签列名(如 'label')
X = df[feature_cols].values
y = df[label_col].values.reshape(-1, 1)
y = np.ravel(y)
X_train, X_test, y_train, y_test = train_test_split(
X, y,
train_size=0.8,
test_size=0.2,
random_state=0,
stratify=y
)
# ✅ 步骤1:为训练集和测试集分别构建带列名的DataFrame
train_df = pd.DataFrame(X_train, columns=feature_cols)
train_df[label_col] = y_train
test_df = pd.DataFrame(X_test, columns=feature_cols)
test_df[label_col] = y_test
# ✅ 步骤2:纵向拼接,保持原始行顺序(先train后test,与split逻辑一致)
# 注意:train_test_split 默认不打乱索引(除非shuffle=True),但为保险起见,建议显式重置索引
merged_df = pd.concat([train_df, test_df], axis=0, ignore_index=True)
# ✅ 步骤3:确保列顺序与原始df完全一致
merged_df = merged_df[df.columns.tolist()] # 强制对齐原始列顺序
# ✅ 步骤4:保存为CSV(不保存索引,避免额外列)
merged_df.to_csv("merged_dataset.csv", index=False)⚠️ 重要注意事项:
- 不要直接使用 np.hstack + np.concatenate 拼接数值数组后新建 DataFrame(如原答案所提),除非你100%确认原始df.columns顺序未被修改,且X与y的样本顺序在分割前后严格保序(train_test_split默认shuffle=True,若未设shuffle=False,原始行序将丢失);
- 若原始分割时未指定 shuffle=False,则无法1:1还原初始行序;但本方案仍能保证列结构、数据完整性、训练/测试比例不变,适用于大多数归档与复现实验场景;
- 使用 pd.concat(..., ignore_index=True) 可避免索引重复或跳跃,确保CSV导出整洁;
- 最终通过 merged_df[df.columns.tolist()] 显式重排列,是保障列名与顺序零误差的关键步骤。
总结:结构安全的合并核心在于——以原始列名为蓝图,分步构造子集DataFrame,再统一拼接与对齐。这样既规避了数组操作易失列元信息的风险,又完全兼容pandas生态,便于调试与扩展。

















