用 df['列名'].unique() 获取某列不重复值最高效,返回无索引的 ndarray,保留首次出现顺序(pandas 1.0+),含一个 nan,比 drop_duplicates() 更轻量、快速且省内存。

直接用 df['列名'].unique() 就行,别调 drop_duplicates()
想看某列有哪些不重复的值,unique() 是最轻量、最直接的方法。它返回的是 numpy.ndarray,不是 Series,也不带索引——这恰恰是优势:没冗余、速度快、内存省。很多人习惯链式调用 drop_duplicates().values 或 drop_duplicates().tolist(),其实多绕两步,还可能意外触发视图/副本问题。
-
unique()自动去重且保持首次出现顺序(pandas 1.0+ 保证,旧版本不保证) - 遇到
NaN时,unique()只保留一个nan(注意:这是 float 类型的 nan,和pd.NA不同) - 如果列含混合类型(比如字符串混着 None),结果数组 dtype 会是
object,排序或比较时得小心
处理空值和缺失值时,unique() 和 nunique() 行为不同
nunique() 默认忽略 NaN,而 unique() 会把 nan 当作一个有效值放进结果里。如果你要统计“非空唯一值个数”,用 nunique();但如果你要“列出所有实际出现过的值(含 nan)”,就得靠 unique(),再手动过滤。
- 查非空唯一值列表:
df['列名'].dropna().unique() - 查含 nan 的完整唯一值:
df['列名'].unique() - 确认是否含 nan:
np.isnan(df['列名'].unique()).any()(仅适用于数值列);字符串列建议用pandas.isna()
结果是 ndarray,别直接当 list 或 Series 用
unique() 返回的是 numpy.ndarray,不是 Python list,也不是 pandas Series。常见误操作是直接传给 isin() 或做切片判断,多数时候能“碰巧”成功,但一旦涉及 dtype 比较(比如 int64 vs int32)、或需要索引对齐,就容易出错。
- 要转成 list:用
df['列名'].unique().tolist(),别用list(df['列名'].unique())(效率低,且对 object 数组行为不稳定) - 要转成 Series:用
pd.Series(df['列名'].unique()),别依赖自动转换 - 在
isin()中安全使用:df['列名'].isin(df['列名'].unique())是 OK 的,pandas 内部做了兼容;但若后续要排序或取交集,建议先明确转成 list 或 Series
大数据量下,unique() 比 value_counts().index 快得多
有人用 value_counts().index 顺带拿唯一值,其实完全没必要。前者要排序+计数,时间复杂度 O(n log n),后者是纯哈希去重,接近 O(n)。100 万行数据,unique() 通常快 3–5 倍,内存占用也更小。
- 只关心“有哪些值”:无条件选
unique() - 既要值又要频次:用
value_counts(),别拆成两步 - 需要排序后的唯一值:
np.sort(df['列名'].unique()),比先value_counts()再取 index 更直白
unique() 返回的可能是 float64 数组,里面混着 1.0、2.0 和 nan,而不是你期待的 1、2。

















