讲师中心 微信公众号

工具推荐

视频效率加速
剧云
剧云

中文短剧剧本制作平台

Seko
Seko

AI短剧一键生成成片

AniShort
AniShort

AI短剧协同制作平台

updream

一键生成高质量推广成片

Python 文本编码错误排查技巧

阿墨吖_7855

阿墨吖_7855

发布时间:2026-02-23 20:04:44

|

754人浏览过

|

来源于php中文网

原创

UnicodeDecodeError 快速定位需检查错误栈顶层的 open() 或 .read() 调用,确认文件路径及 encoding 是否显式指定;推荐统一使用 encoding='utf-8-sig' 处理 UTF-8 文件(自动剥离 BOM)。

python 文本编码错误排查技巧

UnicodeDecodeError 怎么快速定位是哪行出的错

Python 报 UnicodeDecodeError 时,错误信息里通常只说“‘utf-8’ codec can’t decode byte”,但不会告诉你具体是哪个文件、哪一行、甚至哪个变量触发的。根本原因往往是:你用 open() 打开文件时没指定 encoding,而系统默认编码(比如 Windows 的 cp1252)和文件真实编码(比如 UTF-8 带 BOM 或 GBK)不匹配。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 别依赖 open('xxx.txt') 的默认行为,**所有文本读取必须显式写 encoding='utf-8'**(或根据实际确认的编码)
  • 遇到报错,先看错误栈最上面一层的 open() 或 .read() 调用,重点检查那个文件路径是否被其他地方以不同编码打开过
  • 用 chardet 快速探测(注意:它只是启发式猜测,不保证 100% 准确):
    import chardet<br>with open('bad.txt', 'rb') as f:<br>    raw = f.read(10000)<br>print(chardet.detect(raw))
  • Windows 上常见坑:记事本保存的 UTF-8 文件带 BOM,utf-8 编码能读,但 utf-8-sig 更稳妥(会自动剥离 BOM)

requests 返回的 response.text 为什么乱码

不是所有 HTTP 响应都按 Content-Type 里的 charset 正确声明编码,requests 默认会按响应头推断,但经常失效——尤其是中文网站返回 text/html; charset=gbk 却没写全,或压根没写 charset,requests 就会 fallback 到 ISO-8859-1,导致中文变乱码。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 别直接用 r.text,优先用 r.content + 显式解码:
    r = requests.get(url)<br>r.encoding = 'gbk'  # 或 'utf-8'、'gb2312'<br>text = r.text
  • 如果响应头没给 charset,且 r.apparent_encoding 返回 None 或明显不对(比如 'ISO-8859-1'),就手动设 r.encoding
  • 避免用 r.json() 处理非标准 JSON 响应(比如返回的是 GBK 编码的 JSON 字符串),先解码再 json.loads()

subprocess.run() 拿到的 stdout 为啥是 bytes 不是 str

Python 3 中 subprocess.run() 默认返回 bytes 类型的 stdout 和 stderr,不是字符串。这不是 bug,是设计:因为子进程输出的原始字节流可能包含任意编码,Python 不敢擅自 decode。但很多人直接对 result.stdout 做 .split() 或正则匹配,结果报 AttributeError: 'bytes' object has no attribute 'split'。

Python Hardener
Python Hardener

通过完整的安全审查、代码整洁重构、健壮的错误处理、正确的日志记录以及完整的文档字符串覆盖,强化 Python 脚本。

下载

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 加 text=True 参数(Python 3.7+ 推荐):subprocess.run(cmd, text=True, capture_output=True),这样 stdout 就是 str
  • 旧版本或需要控制编码时,用 encoding='utf-8'(注意:该参数隐含 text=True)
  • 如果必须处理 bytes,记得先 decode:result.stdout.decode('utf-8', errors='ignore'),errors='ignore' 可避免部分乱码中断流程
  • Windows 下 cmd 输出可能是 cp936(GBK),Linux 下一般是 utf-8,跨平台脚本要留意

csv 模块读写中文时编码错乱的根源

csv 模块本身不处理编码,它只负责解析逗号分隔结构。所以如果你用 open('data.csv') 打开再传给 csv.reader(),实际解码工作仍在 open() 那一层——一旦这里编码设错,后面全错,而且错误常表现为第一行正常、后面乱码,或者某列突然截断。

实操建议:

立即学习“Python免费学习笔记(深入)”;

  • 读 CSV:必须用 open(..., encoding='utf-8-sig')(utf-8-sig 自动处理 BOM)
  • 写 CSV:同样要指定 encoding,且推荐用 newline=''(否则 Windows 下可能多空行):
    with open('out.csv', 'w', newline='', encoding='utf-8-sig') as f:<br>    writer = csv.writer(f)
  • 别用 pandas 的 read_csv() 默认参数读纯文本 CSV,它内部用 C engine 时可能忽略 encoding,显式传 encoding='utf-8-sig'
  • Excel 打开 UTF-8 CSV 乱码?那是 Excel 的锅——它默认按系统编码读,解决办法是用 utf-8-sig 写,或改用 gbk(兼容性更好,但非国际标准)

编码问题最麻烦的不是不会解,而是错误不总在你写的那行爆发——它可能藏在某个第三方库的默认 open、某个没声明 encoding 的临时文件、甚至环境变量 PYTHONIOENCODING 被意外覆盖。查的时候,盯住每个 open()、每个 requests.get()、每个 subprocess 调用,一个一个确认 encoding 是否明确、是否合理。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

花生AI
花生AI Hot

一款AI视频创作工具,主要用于B站推出的AI视频创作工具,适合需要提升相关任务效率的用户。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

小橡皮AI

一款AI工具,主要用于小橡皮一键去AI味,将机器味重的内容改得更有活人感,防止因为 AI 内容被平台打上 AI 标签,以及限流,适合需要提升相关任务效率的用户。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

相关专题

更多
json数据格式
json数据格式

JSON是一种轻量级的数据交换格式。本专题为大家带来json数据格式相关文章,帮助大家解决问题。

2295

2023.08.07

json是什么
json是什么

JSON是一种轻量级的数据交换格式,具有简洁、易读、跨平台和语言的特点,JSON数据是通过键值对的方式进行组织,其中键是字符串,值可以是字符串、数值、布尔值、数组、对象或者null,在Web开发、数据交换和配置文件等方面得到广泛应用。本专题为大家提供json相关的文章、下载、课程内容,供大家免费下载体验。

3742

2023.08.23

jquery怎么操作json
jquery怎么操作json

操作的方法有:1、“$.parseJSON(jsonString)”2、“$.getJSON(url, data, success)”;3、“$.each(obj, callback)”;4、“$.ajax()”。更多jquery怎么操作json的详细内容,可以访问本专题下面的文章。

1236

2023.10.13

go语言处理json数据方法
go语言处理json数据方法

本专题整合了go语言中处理json数据方法,阅读专题下面的文章了解更多详细内容。

4319

2025.09.10

Python 时间序列分析与预测
Python 时间序列分析与预测

本专题专注讲解 Python 在时间序列数据处理与预测建模中的实战技巧,涵盖时间索引处理、周期性与趋势分解、平稳性检测、ARIMA/SARIMA 模型构建、预测误差评估,以及基于实际业务场景的时间序列项目实操,帮助学习者掌握从数据预处理到模型预测的完整时序分析能力。

340

2025.12.04

Python 数据清洗与预处理实战
Python 数据清洗与预处理实战

本专题系统讲解 Python 在数据清洗与预处理中的核心技术,包括使用 Pandas 进行缺失值处理、异常值检测、数据格式化、特征工程与数据转换,结合 NumPy 高效处理大规模数据。通过实战案例,帮助学习者掌握 如何处理混乱、不完整数据,为后续数据分析与机器学习模型训练打下坚实基础。

272

2026.01.31

Python数据分析与Pandas高级实战
Python数据分析与Pandas高级实战

本专题围绕 Python 数据分析展开,系统讲解 Pandas 的高级用法,包括数据清洗、透视表、时间序列分析以及多表合并与分组操作。通过实战案例,帮助开发者掌握高效处理与分析数据的方法,提高数据处理效率与分析能力。

851

2026.04.13

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1898

2023.08.03

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

40

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn