讲师中心 微信公众号

工具推荐

视频效率加速
立刻MV
立刻MV

低成本歌曲 MV、视频生成

updream

一键生成高质量推广成片

AniShort
AniShort

AI短剧协同制作平台

剧云
剧云

中文短剧剧本制作平台

怎么在Python中用NumPy解决浮点数精度丢失问题

胖墨同学_9925

胖墨同学_9925

发布时间:2026-11-10 11:00:33

|

806人浏览过

|

来源于php中文网

原创

np.float64算错是因IEEE 754双精度无法精确表示0.1等十进制小数,属二进制固有限制;np.float128仅在Linux/macOS+GCC下提升精度,Windows多无效;Decimal+object数组可精确但丧失向量化;工程中宜用np.allclose、高精度累加、字符串预读等策略平衡精度与性能。

怎么在python中用numpy解决浮点数精度丢失问题

为什么 np.float64 依然会算错?

不是 NumPy 不够准,而是底层用的 IEEE 754 双精度浮点数——它根本存不了 0.1 这种十进制小数。比如 0.1 + 0.2 == 0.3 返回 False,这不是 bug,是二进制表示的天然限制。NumPy 默认所有浮点数组都是 np.float64,所以照样踩坑。

什么时候该换 np.float128?

np.float128 在支持扩展精度的平台(Linux/macOS + GCC)上能提供约 34 位十进制精度,比 float64 多一倍,适合中间计算高敏感场景,比如数值积分、条件数大的矩阵求逆。

但要注意:

  • Windows 上多数 Python 发行版(包括 Anaconda)的 np.float128 实际就是 float64,没提升
  • 它不兼容 pickle 序列化,保存数组可能失败
  • 部分 ufunc(如 np.log)在 float128 上可能回退到 float64 计算,结果反而“降级”
  • 声明方式必须显式: np.array([0.1, 0.2], dtype=np.float128),不能靠自动推断

更靠谱的替代方案:用 decimal + NumPy 手动桥接

如果业务逻辑本质是“钱、计量、配置值”这类必须精确十进制的场景,别硬扛浮点——改用 Python 原生 decimal.Decimal,再套一层 NumPy 数组包装。

立即学习“Python免费学习笔记(深入)”;

Python Hardener
Python Hardener

通过完整的安全审查、代码整洁重构、健壮的错误处理、正确的日志记录以及完整的文档字符串覆盖,强化 Python 脚本。

下载

示例做法:

from decimal import Decimal
import numpy as np
<h1>构造精确十进制数组(注意:dtype=object)</h1><p>arr = np.array([Decimal('0.1'), Decimal('0.2'), Decimal('0.3')], dtype=object)
result = arr[0] + arr[1]  # Decimal('0.3')
print(result == Decimal('0.3'))  # True

缺点也很明显:

  • 失去向量化运算能力:arr + arr 会触发 Python 原生循环,慢一个数量级
  • 不能直接传给 SciPy 函数(比如 scipy.linalg.eig),会报 TypeError: no supported conversion
  • 内存占用翻倍以上,dtype=object 存的是指针,不是紧凑数值

真正实用的工程策略:容忍 + 校验

90% 的科学计算不需要“绝对精确”,需要的是“可控误差”。NumPy 提供了现成工具:

  • 比较用 np.allclose(a, b, atol=1e-10),别用 ==
  • 求和累积误差大时,改用 np.sum(arr, dtype=np.float128) 指定高精度累加器(即使平台不支持 float128,也会 fallback 到 float64 安全执行)
  • 读取 CSV 或 JSON 里的小数时,先用 pd.read_csv(..., dtype=str) 读成字符串,再转 Decimal,避免 float 解析阶段就失真
  • 调试时用 np.set_printoptions(precision=17) 看清真实值,而不是被默认 8 位截断误导

精度问题从来不是“能不能解决”,而是“在哪一层解决最省事”。盲目升 dtype 或强切 Decimal,往往让代码更难维护、更慢、更脆。

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

Flowith
Flowith Hot

Flowith是一款基于画布和智能体工作流的 AI 协作工作空间。

创客贴AI

创客贴AI是一款AI图像与设计工具,AI辅助的智能在线设计工具。

蛙蛙写作

一款AI论文写作工具,主要用于超级AI智能写作助手,适合需要提升相关任务效率的用户。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

相关专题

更多
python打包成可执行文件
python打包成可执行文件

本专题为大家带来python打包成可执行文件相关的文章,大家可以免费的下载体验。

1891

2023.07.20

python能做什么
python能做什么

python能做的有:可用于开发基于控制台的应用程序、多媒体部分开发、用于开发基于Web的应用程序、使用python处理数据、系统编程等等。本专题为大家提供python相关的各种文章、以及下载和课程。

5264

2023.07.25

format在python中的用法
format在python中的用法

Python中的format是一种字符串格式化方法,用于将变量或值插入到字符串中的占位符位置。通过format方法,我们可以动态地构建字符串,使其包含不同值。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1849

2023.07.31

python教程
python教程

Python已成为一门网红语言,即使是在非编程开发者当中,也掀起了一股学习的热潮。本专题为大家带来python教程的相关文章,大家可以免费体验学习。

31817

2023.08.03

python环境变量的配置
python环境变量的配置

Python是一种流行的编程语言,被广泛用于软件开发、数据分析和科学计算等领域。在安装Python之后,我们需要配置环境变量,以便在任何位置都能够访问Python的可执行文件。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3767

2023.08.04

python eval
python eval

eval函数是Python中一个非常强大的函数,它可以将字符串作为Python代码进行执行,实现动态编程的效果。然而,由于其潜在的安全风险和性能问题,需要谨慎使用。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

3787

2023.08.04

scratch和python区别
scratch和python区别

scratch和python的区别:1、scratch是一种专为初学者设计的图形化编程语言,python是一种文本编程语言;2、scratch使用的是基于积木的编程语法,python采用更加传统的文本编程语法等等。本专题为大家提供scratch和python相关的文章、下载、课程内容,供大家免费下载体验。

1263

2023.08.11

python合并两个列表
python合并两个列表

Python是一种强大的编程语言,具有许多方便的功能和工具。在Python中,有多种方法可以合并两个列表。php中文网给大家带来了相关的教程以及文章,欢迎大家前来学习阅读。

616

2023.08.10

Postman身份认证怎么配置
Postman身份认证怎么配置

本专题从实际API接口调试场景出发,讲解Postman身份认证的完整配置流程,包括常见认证协议介绍、授权参数设置、访问令牌填写、OAuth 2.0授权及认证失败排查,帮助用户正确完成接口授权与访问验证。

60

2026.11.06

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
相关推荐
/
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn