浮点数比较应避免直接用==,而采用误差范围(epsilon)判断是否足够接近,如Math.abs(a - b)
浮点数比较不能直接用
==,因为float和double的二进制表示天然存在舍入误差,哪怕两个“看起来一样”的值在内存中也可能不等。修正的关键不是强行让它们相等,而是用合理方式判断“是否足够接近”。用误差范围(epsilon)代替相等判断
这是最通用、最轻量的修复方式,适用于大多数非金融类逻辑,比如图形坐标、物理模拟、传感器归一化等。
- 定义一个极小阈值,如
1e-6(double)或1e-5(float),代表你可接受的误差上限- 把
if (a == b)改成if (Math.abs(a - b)- 注意:epsilon 值要匹配业务场景——科学计算可用
1e-10,而 GPS 经纬度差 0.00001° 已远超设备精度,用1e-5就绰绰有余统一类型再比较,避免隐式转换
C/C++/Java 等语言中,
float和double混用常因自动提升引发意外不等。例如float t = 3.197f;与字面量3.197(默认为 double)比较,实际比的是两个不同精度的近似值。
- 显式声明字面量类型:写
3.197f而非3.197,确保参与比较的都是 float- 或统一转为更高精度:将 float 变量转为 double 再比(但仅限于对精度要求不高时)
- 更稳妥的做法是:从源头控制——变量和字面量使用同一类型,不依赖编译器推断
金融或强一致性场景:改用精确类型+字符串构造
当比较结果直接影响账务、权限、状态跃迁(如“余额 ≥ 100 元才允许提现”),就不能容忍任何浮点误差。
- Java 中用
BigDecimal,且必须用字符串构造:new BigDecimal("100.00"),禁用new BigDecimal(100.00)- 比较用
compareTo()方法:amount.compareTo(threshold) >= 0,它按十进制数值大小严格比较- JavaScript 可选
decimal.js:new Decimal("100.00").gte("99.99")循环终止条件别依赖浮点相等
像
for (float x = 0.0f; x != 1.0f; x += 0.1f)极易陷入死循环,因为x永远达不到精确的1.0f。
- 改用整数计数:
for (int i = 0; i- 或用不等式判断:
for (float x = 0.0f; x ,加一点安全余量- 核心原则:循环边界应基于整数或预计算的确定值,而非累加浮点数
本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门AI工具
相关专题
Java是一个通用术语,用于表示Java软件及其组件,包括“Java运行时环境 (JRE)”、“Java虚拟机 (JVM)”以及“插件”。php中文网还为大家带了Java相关下载资源、相关课程以及相关文章等内容,供大家免费下载使用。
11417
2023.06.15
java正则表达式语法是一种模式匹配工具,它非常有用,可以在处理文本和字符串时快速地查找、替换、验证和提取特定的模式和数据。本专题提供java正则表达式语法的相关文章、下载和专题,供大家免费下载体验。
8522
2023.07.05
Java是一种广泛使用的高级编程语言,用于开发各种类型的应用程序。为了能够在计算机上正确运行和编译Java代码,需要正确配置Java Development Kit(JDK)环境变量。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。
1224
2023.08.01
Java是一种广泛应用于编程领域的高级编程语言。在Java中,保留两位小数是指在进行数值计算或输出时,限制小数部分只有两位有效数字,并将多余的位数进行四舍五入或截取。php中文网给大家带来了相关的教程以及文章,欢迎大家前来阅读学习。
988
2023.08.02
java基本数据类型有:1、byte;2、short;3、int;4、long;5、float;6、double;7、char;8、boolean。本专题为大家提供java基本数据类型的相关的文章、下载、课程内容,供大家免费下载体验。
1456
2023.08.02
java可以开发应用程序、移动应用、Web应用、企业级应用、嵌入式系统等方面。本专题为大家提供java有什么用的相关的文章、下载、课程内容,供大家免费下载体验。
3009
2023.08.02
Java在线网站是指提供Java编程学习、实践和交流平台的网络服务。近年来,随着Java语言在软件开发领域的广泛应用,越来越多的人对Java编程感兴趣,并希望能够通过在线网站来学习和提高自己的Java编程技能。php中文网给大家带来了相关的视频、教程以及文章,欢迎大家前来学习阅读和下载。
20271
2023.08.03
Vite项目打包部署专题汇集生产构建、产物预览、输出目录、资源路径、Nginx与GitHub Pages部署及常见白屏和路由404问题的已审核文章,帮助读者完成上线流程。
20
2026.10.28
热门下载
相关下载
精品课程
共6课时 | 12.1万人学习
共79课时 | 161.6万人学习
共6课时 | 54.7万人学习
最新文章










