讲师中心 微信公众号
AI工具推荐 视频效率加速

精度丢失的真相:IEEE 754 浮点数表示的陷阱

冬浩大大_1145

冬浩大大_1145

发布时间:2026-06-27 13:05:07

|

468人浏览过

|

来源于php中文网

原创

0.1 + 0.2 ≠ 0.3 不是 bug,而是 IEEE 754 浮点数在有限位宽下无法精确表示十进制小数 0.1、0.2(二者二进制均为无限循环小数)所致,截断舍入后误差累积,导致结果为 0.30000000000000004。

精度丢失的真相:ieee 754 浮点数表示的陷阱

0.1 + 0.2 ≠ 0.3 不是 bug,而是 IEEE 754 浮点数表示法在有限位宽下必然发生的数学事实。核心原因在于:十进制小数无法被精确映射到二进制有限位浮点格式中。

十进制小数在二进制中本就是无限循环的

计算机用二进制存储一切数字,但很多常用十进制小数(如 0.1、0.2、0.3)在二进制中是无限不循环小数,类似十进制里的 1/3 = 0.333…。例如:

  • 0.1₁₀ = 0.00011001100110011…₂(“0011”无限循环)
  • 0.2₁₀ = 0.0011001100110011…₂

这些无限位二进制小数必须被截断或舍入,才能塞进 IEEE 754 规定的尾数位中(float 23 位,double 52 位),于是第一次误差就已产生。

IEEE 754 的结构放大了精度限制

它把一个数拆成三部分:符号位 + 指数位 + 尾数位。关键细节在于:

  • 尾数采用“隐含前导 1”设计(规格化数),所以 float 实际有 24 位二进制精度,double 有 53 位
  • 换算成十进制,float 约 6–7 位有效数字,double 约 15–16 位——但这不是小数点后几位,而是整数+小数的总有效位数
  • 数值越大,可表示的相邻两个浮点数间距(ULP)越大,精度越“稀疏”。比如 double 存 9990000.123456789 时,整数占 7 位,小数最多只剩约 8 位可靠精度

运算过程会累积并暴露误差

单个浮点数已有微小偏差,四则运算还会引入新误差:

  • 对阶丢失低位:计算 1e17 + 1 时,1 会被直接抹掉(因指数差太大,低位无法对齐进尾数)
  • 舍入规则影响结果:IEEE 754 默认使用“向偶数舍入”,不是简单四舍五入,导致看似随机的偏差
  • 比较失效:用 == 判断浮点数相等几乎总是错的;应改用 Math.abs(a - b) < epsilon

哪些场景要特别警惕

不是所有计算都受同等影响,以下情况误差更易显现或造成后果:

  • 金融系统中用 float/double 存金额(正确做法:用整数分/厘,或 decimal 类型)
  • 地理坐标叠加高精度小数(如经度 116.12345678912345678 → 实际存为 116.12345678912345)
  • 长期迭代累加(如物理模拟、传感器积分),误差随次数线性或指数增长
  • PLC 或嵌入式设备用二进制协议读写 float,字节序或类型误配可能让 618.0 变成 608.0

热门AI工具

更多
咔片AIPPT

一款在线AI演示文稿制作工具,可根据主题和内容需求辅助生成PPT结构与页面,提高演示材料制作效率。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

AionClaw
AionClaw Hot

AionClaw是一款面向办公、创作和编程任务的AI桌面智能体。

音述AI
音述AI Hot

一款AI音频处理工具,主要用于音述AI是一个以“用声音述说故事”为核心的 AI 音乐创作与声音分享社区,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

火山引擎

火山引擎是一款面向企业的云计算与AI服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

相关专题

更多
OpenJDK JVM参数怎么调优
OpenJDK JVM参数怎么调优

Java应用运行缓慢,如何调整JVM参数?本专题介绍OpenJDK JVM性能调优的基本流程,涵盖性能指标确认、运行数据采集、内存配置和垃圾回收分析,帮助你先定位瓶颈,再通过对照测试验证效果,避免直接套用参数而影响应用稳定性。

100

2026.10.16

OpenJDK怎么配置Java开发环境
OpenJDK怎么配置Java开发环境

怎样用OpenJDK搭建开发环境?本专题介绍版本选择、下载安装、环境变量配置和编译运行验证,帮助你理清JDK的作用及基本配置流程,并通过简单程序检查环境是否可用,为后续项目开发做好准备。

40

2026.10.16

OpenJDK怎么部署Java应用
OpenJDK怎么部署Java应用

Java项目开发完成后,怎样部署到目标环境并正常运行?本专题介绍OpenJDK应用部署流程,涵盖运行环境准备、版本兼容检查、应用打包、启动参数配置和日志查看,帮助你理清部署前后的操作顺序,减少环境差异造成的运行问题。

40

2026.10.16

Revel框架模板渲染与表单验证
Revel框架模板渲染与表单验证

本专题围绕Revel框架视图层开发,介绍模板语法、变量输出、布局复用、表单提交、参数绑定与验证规则,帮助开发者完成安全规范的页面交互。

40

2026.10.16

Revel框架MVC路由与控制器
Revel框架MVC路由与控制器

本专题聚焦Revel框架MVC核心机制,讲解路由定义、控制器Action、参数绑定、请求响应和反向路由,并结合常见场景梳理接口请求处理流程。

20

2026.10.16

Revel框架入门与安装配置
Revel框架入门与安装配置

本专题从Revel框架环境搭建讲起,系统介绍命令行工具安装、项目创建、目录结构、配置文件及热代码重载,帮助开发者快速完成首个Go Web应用。

40

2026.10.16

Linux 新手先学哪些命令
Linux 新手先学哪些命令

Linux新手命令专题汇集终端基础、文件目录操作、文本查看、软件安装和权限管理等入门文章,帮助按实际任务练习常用命令并建立命令行操作习惯。

40

2026.10.15

MySQL 忘记密码怎么办
MySQL 忘记密码怎么办

MySQL忘记密码专题汇集不同版本与系统下的root密码重置方法,覆盖MySQL 5.7、8.0、Mac、Linux及本地集成环境,并提示恢复权限与重新登录的检查步骤。

40

2026.10.15

Vue.js 中 ref 和 reactive 的区别
Vue.js 中 ref 和 reactive 的区别

Vue.js中ref和reactive的区别专题汇集两种响应式API的定义、访问方式、对象解构、侦听与性能取舍等文章,帮助结合实际状态类型选择合适写法。

40

2026.10.15

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn