讲师中心 微信公众号
AI工具推荐 视频效率加速

Python 文件读写中的编码陷阱

小芳姑娘_9130

小芳姑娘_9130

发布时间:2026-01-29 19:56:02

|

348人浏览过

|

来源于php中文网

原创

Windows下open()读中文文件报UnicodeDecodeError的根源是默认编码为cp1252而非UTF-8,解决方法是显式指定encoding='utf-8'或更稳妥的'utf-8-sig'以处理BOM。

python 文件读写中的编码陷阱

Windows 上用 open() 读中文文件报 UnicodeDecodeError

默认编码不匹配是 Windows 下最常踩的坑:open() 在 Windows 中默认用 cp1252(而非 utf-8)解码,而绝大多数中文文本文件是 UTF-8 编码。一旦文件含中文,就会抛出 UnicodeDecodeError: 'charmap' codec can't decode byte 0xXX。

解决方法很简单:显式指定 encoding='utf-8'。但要注意——不是所有“UTF-8 文件”都真正 BOM-free;若文件带 BOM(如记事本另存为“UTF-8”时默认加的),utf-8 能正常读,但 utf-8-sig 更稳妥(自动剥离 BOM)。

  • 用 utf-8-sig 读取记事本保存的“UTF-8”文件,避免开头出现 \ufeff
  • 写入时若需兼容旧系统(如某些 Windows 工具),可选 utf-8-sig,否则统一用 utf-8
  • 不要依赖 locale.getpreferredencoding() 判断读取编码——它返回的是控制台编码,和文件无关

用 pandas.read_csv() 读 CSV 中文列名乱码

根本原因和 open() 一样:pandas 默认用系统 locale 编码(Windows 是 cp1252)解析文件,而非 UTF-8。即使文件本身是 UTF-8,列名、数据也会变乱码。

read_csv() 的 encoding 参数必须显式传入,且不能省略。常见错误是只设了 encoding='utf8' 却没处理 BOM,导致第一列名多出 。

立即学习“Python免费学习笔记(深入)”;

macOS UI 自动化技能包 —— 用 Python 控制你的 Mac
macOS UI 自动化技能包 —— 用 Python 控制你的 Mac

让 macOS 自动化像说话一样简单 —— 用代码控制你的 Mac,无需学习 AppleScript 系统要求 macOS 14+ (Sonoma) Python 3.9+ 需要开启:辅助功能 + 屏幕录制权限

下载
  • 优先试 encoding='utf-8-sig',尤其当 CSV 来自 Excel 或记事本
  • 若仍报错,用 chardet 库粗略探测:chardet.detect(open('x.csv', 'rb').read(10000)),但别全信结果
  • 避免用 encoding=None 或留空——pandas 不会自动猜编码

跨平台脚本中 encoding 参数写死成 'utf-8' 安全吗?

安全,而且推荐。Python 3.6+ 中 open() 默认编码已是 utf-8,但仅限于 CPython 实现且未被环境变量覆盖时;实际工程中,显式写死 encoding='utf-8' 反而是最可控的做法。

真正危险的是“不写 encoding”,让 Python 去猜——它会查 locale.getpreferredencoding(),在 Linux/macOS 可能是 UTF-8,但在 Windows 很可能是 cp1252,导致同一份代码在不同机器上行为不一致。

  • 所有文本文件读写操作,只要内容含非 ASCII 字符,就必须带 encoding 参数
  • 写入时也需指定,否则 open('out.txt', 'w').write('中文') 在 Windows 可能静默失败或写乱码
  • pathlib.Path.read_text() 和 .write_text() 同样需要 encoding,默认值不可靠

二进制模式读写时还用管 encoding 吗?

不用——但你要清楚自己在做什么。用 'rb' / 'wb' 打开文件,返回的是 bytes,绕过了所有编码解码环节。此时 encoding 参数无效,也不该传。

常见误用:先用 open(..., 'rb') 读出 bytes,再用 .decode() 手动转字符串,却忘了指定解码器,或用了错误编码(比如用 gbk 解 UTF-8 字节流)。

  • 如果确定要手动 decode,务必明确原始字节来源的编码,例如 data.decode('utf-8')
  • 用 codecs.open() 已过时,统一用内置 open() + encoding
  • 日志、配置、用户输入等涉及文本 IO 的地方,最容易漏掉 encoding —— 这些恰恰是最该加的地方

编码问题从不报错到突然崩溃,往往只差一个特殊字符。最保险的做法不是“看情况加”,而是“凡文本 IO,必写 encoding”。

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

Seko
Seko Hot

一款AI视频创作工具,主要用于商汤科技推出的创编一体的AI短视频创作Agent,适合需要提升相关任务效率的用户。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

相关专题

更多
Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

320

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

252

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

651

2026.04.13

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1798

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

2804

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

6164

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

5889

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

7514

2024.03.22

Gradle插件开发入门教程
Gradle插件开发入门教程

本专题介绍Gradle插件开发的基本流程,涵盖插件类编写、自定义任务注册、扩展参数设计和插件应用方法,帮助你理解插件如何组织构建逻辑,减少多个项目之间的重复配置。

60

2026.10.22

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

Buffalo框架快速入门指南
Buffalo框架快速入门指南

共0课时 | 0人学习

Valgrind支持平台说明
Valgrind支持平台说明

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn