讲师中心 微信公众号
AI工具推荐 视频效率加速

Float/Double精度损失在变量比较中的修正方案

千辰姑娘_3053

千辰姑娘_3053

发布时间:2026-05-10 17:49:46

|

231人浏览过

|

来源于php中文网

原创

浮点数比较应避免直接用==,而采用误差范围(epsilon)判断是否足够接近,如Math.abs(a - b)

float/double精度损失在变量比较中的修正方案

浮点数比较不能直接用 ==,因为 float 和 double 的二进制表示天然存在舍入误差,哪怕两个“看起来一样”的值在内存中也可能不等。修正的关键不是强行让它们相等,而是用合理方式判断“是否足够接近”。

用误差范围(epsilon)代替相等判断

这是最通用、最轻量的修复方式,适用于大多数非金融类逻辑,比如图形坐标、物理模拟、传感器归一化等。

  • 定义一个极小阈值,如 1e-6(double)或 1e-5(float),代表你可接受的误差上限
  • 把 if (a == b) 改成 if (Math.abs(a - b)
  • 注意:epsilon 值要匹配业务场景——科学计算可用 1e-10,而 GPS 经纬度差 0.00001° 已远超设备精度,用 1e-5 就绰绰有余

统一类型再比较,避免隐式转换

C/C++/Java 等语言中,float 和 double 混用常因自动提升引发意外不等。例如 float t = 3.197f; 与字面量 3.197(默认为 double)比较,实际比的是两个不同精度的近似值。

  • 显式声明字面量类型:写 3.197f 而非 3.197,确保参与比较的都是 float
  • 或统一转为更高精度:将 float 变量转为 double 再比(但仅限于对精度要求不高时)
  • 更稳妥的做法是:从源头控制——变量和字面量使用同一类型,不依赖编译器推断

金融或强一致性场景:改用精确类型+字符串构造

当比较结果直接影响账务、权限、状态跃迁(如“余额 ≥ 100 元才允许提现”),就不能容忍任何浮点误差。

  • Java 中用 BigDecimal,且必须用字符串构造:new BigDecimal("100.00"),禁用 new BigDecimal(100.00)
  • 比较用 compareTo() 方法:amount.compareTo(threshold) >= 0,它按十进制数值大小严格比较
  • JavaScript 可选 decimal.js:new Decimal("100.00").gte("99.99")

循环终止条件别依赖浮点相等

像 for (float x = 0.0f; x != 1.0f; x += 0.1f) 极易陷入死循环,因为 x 永远达不到精确的 1.0f。

  • 改用整数计数:for (int i = 0; i
  • 或用不等式判断:for (float x = 0.0f; x ,加一点安全余量
  • 核心原则:循环边界应基于整数或预计算的确定值,而非累加浮点数

本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn

热门AI工具

更多
WorkBuddy

一款AI办公效率工具,主要用于腾讯云推出的AI原生桌面智能体工作台,适合需要提升相关任务效率的用户。

豆包大模型

豆包大模型是一款由字节跳动推出的企业级大语言模型服务平台。

切问学术

切问学术是一款AI论文写作工具,复旦大学NLP团队推出的AI学术智能体。

超级简历WonderCV

一款AI办公效率工具,主要用于免费求职简历模版下载制作,应届生职场人必备简历制作神器,适合需要提升相关任务效率的用户。

墨刀AI
墨刀AI Hot

一款AI图像与设计工具,主要用于产品经理的专属智能体,适合需要提升相关任务效率的用户。

DeepSeek

DeepSeek是一款面向对话、写作、编程和推理场景的AI大模型工具。

二狗PPT
二狗PPT Hot

一款AI演示文稿工具,主要用于专为中式职场打造的AI PPT生成工具,适合需要提升相关任务效率的用户。

Laper
Laper Hot

Laper是专为编剧、导演和制片人推出的 AI 原生剧本创作工具。

超级麦吉

一款通过数字员工协作完成调研、数据分析与文档制作的AI办公平台。

相关专题

更多
java
java

Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。

11417

2023.06.15

java正则表达式语法
java正则表达式语法

java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。

8522

2023.07.05

java自学难吗
java自学难吗

Java自学并不难。Java语言相对于其他一些编程语言而言,有着较为简洁和易读的语法,本专题为大家提供java自学难吗相关的文章,大家可以免费体验。

7352

2023.07.31

java配置jdk环境变量
java配置jdk环境变量

Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

1224

2023.08.01

java保留两位小数
java保留两位小数

Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。

988

2023.08.02

java基本数据类型
java基本数据类型

java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。

1456

2023.08.02

java有什么用
java有什么用

java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。

3009

2023.08.02

java在线网站
java在线网站

Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。

20271

2023.08.03

Vite 项目如何打包和部署
Vite 项目如何打包和部署

Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。

20

2026.10.28

热门下载

更多
网站特效
/
网站源码
/
网站素材
/
前端模板

精品课程

更多
热门推荐
/
最新课程
关于我们 免责申明 举报中心 意见反馈 讲师合作 广告合作 最新更新
php中文网:公益在线php培训,帮助PHP学习者快速成长!
关注服务号
PHP中文网订阅号
每天精选资源文章推送

Copyright 2014-2026 https://www.php.cn/ All Rights Reserved | php.cn