讲师中心 微信公众号
AI工具推荐 视频效率加速

Python 数值比较中的容差设计

阿静酱_2382

阿静酱_2382

发布时间:2026-02-24 15:37:10

|

483人浏览过

|

来源于php中文网

原创

浮点数直接用 == 比较总出错,因二进制无法精确表示多数十进制小数(如0.1+0.2=0.30000000000000004),导致内存值不等;应改用 math.isclose() 或 abs(a-b) < tol。

python 数值比较中的容差设计

浮点数直接用 == 比较为什么总出错

因为二进制无法精确表示大多数十进制小数,0.1 + 0.2 实际结果是 0.30000000000000004,和 0.3 的内存表示不一致,所以 == 返回 False。这不是 Python 独有,所有遵循 IEEE 754 的语言都这样。

常见错误现象:单元测试里 assert result == 0.3 偶尔失败;科学计算中判断“是否收敛”卡在临界值。

  • 永远别用 == 判断两个浮点数是否“数学上相等”
  • 改用 math.isclose()(Python 3.5+),它默认用相对容差 1e-09 和绝对容差 1e-09 双重判断
  • 如果要兼容旧版本,手动写 abs(a - b)

math.isclose() 的 rel_tol 和 abs_tol 怎么选

rel_tol 控制相对误差比例,适合比较数量级接近的数;abs_tol 是硬性阈值,对极小值(比如接近 0)必须设,否则 rel_tol 在分母趋近 0 时会失效。

使用场景举例:物理仿真中判断速度是否“基本为零”,或机器学习里检查梯度是否收敛到 1e-8 量级。

立即学习“Python免费学习笔记(深入)”;

Forge — Python Developer
Forge — Python Developer

Python开发助手 — 自动化脚本、API封装、命令行工具、数据管道、网页爬虫。经过测试的代码,包含错误处理和文档。当你需要...

下载
  • 一般数值计算,设 rel_tol=1e-09 足够(IEEE 754 double 精度约 15–17 位有效数字)
  • 涉及接近 0 的值,必须显式给 abs_tol,比如 math.isclose(x, 0.0, abs_tol=1e-12)
  • 不要把 rel_tol 设成 0——那会退化成纯绝对误差判断,但失去对大数的鲁棒性

numpy.allclose() 和 math.isclose() 的关键区别

numpy.allclose() 是数组批量比较,底层逻辑类似 math.isclose(),但默认容差更宽松:rtol=1e-05, atol=1e-08。直接混用容易漏掉精度问题。

性能影响:对单个数,math.isclose() 更轻量;对数组,必须用 numpy.allclose(),否则循环调用 math.isclose() 会慢一个数量级。

  • 数组比较一律用 numpy.allclose(),别自己写 np.array([math.isclose(a, b) for a, b in zip(arr1, arr2)]).all()
  • 若需和 math.isclose() 行为一致,显式传参:numpy.allclose(a, b, rtol=1e-09, atol=1e-09)
  • numpy.allclose() 对 nan 默认返回 False,如需 “NaN == NaN”,加参数 equal_nan=True

自定义容差函数要注意的边界情况

手写容差比较看似简单,但容易忽略负数、无穷、NaN 和零除。比如 abs(a - b) 在 <code>a 或 b 是 inf 时会得到 nan,导致判断失效。

真实项目里,容差逻辑常被封装进工具函数,但很多人只测了普通正数。

  • 必须单独处理 math.isinf() 和 math.isnan():无穷大之间可比,但无穷和有限数不可比;NaN 一律视为不相等(除非明确要求)
  • 避免用 max(abs(a), abs(b)) 当分母——当两者都为 0 时没问题,但一正一负且绝对值相等时,max 仍为正,逻辑无误;真正危险的是两者都为 inf
  • 如果业务要求“误差不超过 0.01 元”,就用绝对容差 abs_tol=0.01,别强行套相对容差

容差不是越小越好,也不是统一设成 1e-9 就万事大吉。关键是根据数据量级、业务语义和误差来源决定该用相对、绝对,还是混合策略。最常被忽略的,是忘记给接近零的值配 abs_tol。

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

UpDream
UpDream Hot

一款AI视频创作工具,主要用于哔哩哔哩推出的自研AI视频创作工具,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

Atoms
Atoms Hot

Atoms是一款AI智能体工具,第一支自动构建真实业务的 AI 团队。

讯飞智作

讯飞智作是一款AI视频创作工具,AI文本配音工具,数字人课程、营销视频制作。

相关专题

更多
OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

60

2026.10.16

OpenJDK怎么配置Java开发环境
OpenJDK怎么配置Java开发环境

怎样用OpenJDK搭建开发环境?本专题介绍版本选择、下载安装、环境变量配置和编译运行验证,帮助你理清JDK的作用及基本配置流程,并通过简单程序检查环境是否可用,为后续项目开发做好准备。

40

2026.10.16

OpenJDK怎么部署Java应用
OpenJDK怎么部署Java应用

Java项目开发完成后,怎样部署到目标环境并正常运行?本专题介绍OpenJDK应用部署流程,涵盖运行环境准备、版本兼容检查、应用打包、启动参数配置和日志查看,帮助你理清部署前后的操作顺序,减少环境差异造成的运行问题。

40

2026.10.16

Revel框架模板渲染与表单验证
Revel框架模板渲染与表单验证

本专题围绕Revel框架视图层开发,介绍模板语法、变量输出、布局复用、表单提交、参数绑定与验证规则,帮助开发者完成安全规范的页面交互。

20

2026.10.16

Revel框架MVC路由与控制器
Revel框架MVC路由与控制器

本专题聚焦Revel框架MVC核心机制,讲解路由定义、控制器Action、参数绑定、请求响应和反向路由,并结合常见场景梳理接口请求处理流程。

20

2026.10.16

Revel框架入门与安装配置
Revel框架入门与安装配置

本专题从Revel框架环境搭建讲起,系统介绍命令行工具安装、项目创建、目录结构、配置文件及热代码重载,帮助开发者快速完成首个Go Web应用。

20

2026.10.16

Linux 新手先学哪些命令
Linux 新手先学哪些命令

Linux新手命令专题汇集终端基础、文件目录操作、文本查看、软件安装和权限管理等入门文章,帮助按实际任务练习常用命令并建立命令行操作习惯。

40

2026.10.15

MySQL 忘记密码怎么办
MySQL 忘记密码怎么办

MySQL忘记密码专题汇集不同版本与系统下的root密码重置方法,覆盖MySQL 5.7、8.0、Mac、Linux及本地集成环境,并提示恢复权限与重新登录的检查步骤。

20

2026.10.15

Vue.js 中 ref 和 reactive 的区别
Vue.js 中 ref 和 reactive 的区别

Vue.js中ref和reactive的区别专题汇集两种响应式API的定义、访问方式、对象解构、侦听与性能取舍等文章,帮助结合实际状态类型选择合适写法。

20

2026.10.15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
Uvicorn官方安装与入门手册
Uvicorn官方安装与入门手册

共0课时 | 0人学习

Python uv官方项目管理指南
Python uv官方项目管理指南

共0课时 | 0人学习

Python uv官方安装与入门文档
Python uv官方安装与入门文档

共0课时 | 0人学习

关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn