讲师中心 微信公众号
AI工具推荐 视频效率加速

浮点数float与double精度丢失原因及解决方法

冬婷君_8489

冬婷君_8489

发布时间:2026-04-04 02:09:28

|

1002人浏览过

|

来源于php中文网

原创

浮点数精度丢失不是bug而是二进制与十进制固有矛盾所致,因0.1等十进制小数在二进制中无限循环,IEEE 754标准下float/double截断存储必产生舍入误差。

浮点数float与double精度丢失原因及解决方法

浮点数精度丢失不是 bug,而是二进制表示与十进制人类习惯之间的天然矛盾。float 和 double 都遵循 IEEE 754 标准,用有限位数存储无限精度的十进制小数,导致部分数值无法精确表达,计算中误差累积后就显现为“丢失”。

为什么 0.1 + 0.2 ≠ 0.3?

根本原因在于:十进制小数 0.1 在二进制中是无限循环小数(类似十进制中 1/3 = 0.333…),而 float(32 位)和 double(64 位)只能截断存储,必然产生舍入误差。

  • float 约 6–7 位有效数字,能精确表示的整数范围仅 ±2²⁴(约 ±16777216)
  • double 约 15–17 位有效数字,整数精确范围达 ±2⁵³(约 ±9×10¹⁵)
  • 但只要涉及 10⁻¹、10⁻²、10⁻³ 等非 2 的幂次分母,绝大多数小数在二进制下都不可精确表示

常见精度丢失场景

不只是加减法——任何依赖浮点中间结果的逻辑都可能出问题:

  • 循环计数:for (float x = 0.0f; x != 1.0f; x += 0.1f) → 可能死循环或跳过终点
  • 相等判断:if (a == b) 对浮点数几乎总是错误做法
  • 金融计算:0.1 元 + 0.2 元 = 0.300000012 元 → 账目对不上
  • 科学计算累加:大量小步长积分或迭代,误差逐步放大

实用解决方法

没有银弹,需按场景选择合适策略:

  • 用整数代替小数:金额统一用“分”存储(int 或 long),避免 0.01 元这类浮点表示
  • 使用高精度类型:Java 用 BigDecimal,Python 用 decimal.Decimal,C# 用 decimal —— 它们以十进制字符串或整数+缩放因子方式存储,无二进制表示误差
  • 误差容忍比较:改 if (a == b) 为 if (Math.abs(a - b)
  • 避免累积误差:优先用整数步长循环(for (int i = 0; i

什么时候可以放心用 float/double?

并非所有场景都要规避:

  • 图形渲染、音视频处理、机器学习训练:本身允许一定误差,且硬件加速依赖 float/double
  • 相对比例计算(如 alpha = 0.7f)、归一化向量长度:精度损失在可接受范围内
  • 与硬件传感器交互(如 GPS 经纬度、加速度计原始值):输入本身已有噪声,浮点误差远小于测量误差

理解原理比死记规则更重要:看到小数参与计算,先问一句——它是否必须精确?是否会被反复使用?是否影响最终判定逻辑?答案是“是”,就该换方案。

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

PixPix
PixPix Hot

PixPix是一款面向电商视觉生产的AI商品图生成工具。

Lovart
Lovart Hot

一款面向视觉设计创作的AI设计平台,可通过智能体和画布工作流辅助制作海报、Logo、网页、PPT及其他视觉内容。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

SkildArt
SkildArt Hot

SkildArt是一款AI文本写作工具,一站式 AI 视觉创作平台。

讯飞绘文

讯飞绘文是一款由科大讯飞推出的一站式 AIGC 内容运营平台。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

UP简历
UP简历 Hot

一款AI办公效率工具,主要用于基于AI技术的免费在线简历制作工具,适合需要提升相关任务效率的用户。

相关专题

更多
css中float用法
css中float用法

css中float属性允许元素脱离文档流并沿其父元素边缘排列,用于创建并排列、对齐文本图像、浮动菜单边栏和重叠元素。想了解更多float的相关内容,可以阅读本专题下面的文章。

5587

2024.04.28

C++中int、float和double的区别
C++中int、float和double的区别

本专题整合了c++中int和double的区别,阅读专题下面的文章了解更多详细内容。

624

2025.10.23

js 字符串转数组
js 字符串转数组

js字符串转数组的方法:1、使用“split()”方法;2、使用“Array.from()”方法;3、使用for循环遍历;4、使用“Array.split()”方法。本专题为大家提供js字符串转数组的相关的文章、下载、课程内容,供大家免费下载体验。

1578

2023.08.03

js截取字符串的方法
js截取字符串的方法

js截取字符串的方法有substring()方法、substr()方法、slice()方法、split()方法和slice()方法。本专题为大家提供字符串相关的文章、下载、课程内容,供大家免费下载体验。

2324

2023.09.04

java基础知识汇总
java基础知识汇总

java基础知识有Java的历史和特点、Java的开发环境、Java的基本数据类型、变量和常量、运算符和表达式、控制语句、数组和字符串等等知识点。想要知道更多关于java基础知识的朋友,请阅读本专题下面的的有关文章,欢迎大家来php中文网学习。

5824

2023.10.24

字符串介绍
字符串介绍

字符串是一种数据类型,它可以是任何文本,包括字母、数字、符号等。字符串可以由不同的字符组成,例如空格、标点符号、数字等。在编程中,字符串通常用引号括起来,如单引号、双引号或反引号。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

4969

2023.11.24

java读取文件转成字符串的方法
java读取文件转成字符串的方法

Java8引入了新的文件I/O API,使用java.nio.file.Files类读取文件内容更加方便。对于较旧版本的Java,可以使用java.io.FileReader和java.io.BufferedReader来读取文件。在这些方法中,你需要将文件路径替换为你的实际文件路径,并且可能需要处理可能的IOException异常。想了解更多java的相关内容,可以阅读本专题下面的文章。

6674

2024.03.22

php中定义字符串的方式
php中定义字符串的方式

php中定义字符串的方式:单引号;双引号;heredoc语法等等。想了解更多字符串的相关内容,可以阅读本专题下面的文章。

9094

2024.04.29

PixTV AI视频生成与无限画布创作
PixTV AI视频生成与无限画布创作

PixTV专题整理AI视频与视觉内容创作相关功能使用教程,涵盖AI生图、视频生成、无限画布、多模型创作、素材管理、声音音乐及视频剪辑等功能,帮助用户快速掌握PixTV从创意到成片的完整制作方法。

0

2026.09.29

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn