直接用 == 比较两个 float64 会出错,因为 IEEE 754 浮点数无法精确表示多数十进制小数(如 0.1 + 0.2 ≠ 0.3),导致舍入误差累积,应改用 math.Abs(a - b)
为什么
==比较两个float64会出错因为 IEEE 754 浮点数在二进制下无法精确表示很多十进制小数(比如
0.1 + 0.2不等于0.3),直接用==判断相等大概率失败。这不是 Go 特有,但 Go 的math包没提供默认的“近似相等”函数,得自己处理。常见错误现象:
0.1 + 0.2 == 0.3返回false;单元测试里断言got == want突然挂掉,而打印出来数值看起来一模一样。
- 根本原因是浮点运算累积了舍入误差,哪怕只做一次加法也可能改变最低有效位
math.Abs(a - b) 是最常用解法,但 <code>epsilon不能写死成1e-9—— 大数比较时这个阈值太松,小数又可能过严- Go 标准库不带
math.IsApprox这类函数,别指望导入就开用用
math.Abs+ 相对误差判断更稳妥绝对误差(
abs(a-b) )适合值域集中在 0 附近的场景;相对误差(<code>abs(a-b) )更能适应不同量级。Go 的 <code>math包里math.Abs、math.Max都可用,组合起来就是可靠基线。使用场景:金融计算中允许 0.01 元误差、物理仿真中接受 0.1% 偏差、测试断言浮点结果。
立即学习“go语言免费学习笔记(深入)”;
Golang Uber Dig下载使用 uber-go/dig 在 Golang 中实现依赖注入——基于反射容器,提供 Provide/Invoke、dig.In/dig.Out 参数与结果对象,支持命名依赖等
- 推荐写成一个辅助函数,避免重复逻辑:
func approxEqual(a, b, epsilon float64) bool { return math.Abs(a-b) <= epsilon*math.Max(math.Abs(a), math.Abs(b)) }- 若 a 和 b 可能为 0,要单独处理,否则
max(0,0)导致分母为 0 效果失效 —— 改用math.Max(math.Abs(a), math.Abs(b), 1e-12)或加分支- 注意
epsilon是无量纲比例系数,不是固定精度值;设成1e-9表示允许 10⁻⁹ 相对偏差,不是“小数点后 9 位一致”
math.Nextafter和math.Ulp能干啥
math.Nextafter返回某个浮点数向指定方向移动一个 ULP(Unit in the Last Place)后的值,是真正基于浮点数内存表示的“最小可分辨差异”。它比手算epsilon更底层、更精确,但使用门槛高、可读性差。适用场景:需要严格控制浮点误差边界(如数值库开发)、验证算法稳定性、编写高精度测试。
math.Nextafter(x, y)中 y 决定方向(y > x → 下一个更大值),常用来构造“刚好不相等”的测试用例- 没有现成的
Ulp(x)函数,但可用math.Nextafter(x, x+1) - x算出 x 附近的 ULP 值,不过要注意 x=0 或极大值时行为异常- 性能上比纯算术慢不少,普通业务代码没必要上;过度依赖它反而让逻辑难懂、难维护
测试里怎么写断言才不容易翻车
别在测试里裸写
assert.Equal(t, got, want)处理浮点数 ——testify/assert默认用==,照样崩。得显式用近似比较或自定义 matcher。使用场景:单元测试、集成测试中验证计算结果。
- 用
testify/assert.InDelta(t, got, want, delta)最省心,delta是绝对误差上限,适合已知误差范围的场景- 如果要用相对误差,
testify/assert.InEpsilon更合适,第三个参数是 epsilon(比如1e-6),内部实现就是相对误差公式- 自己封装断言时,务必把
epsilon作为参数传入,而不是硬编码在函数里;不同业务模块容忍度不同,比如风控可能要求1e-12,前端展示用1e-3就够了浮点比较真正的复杂点不在公式本身,而在误差容忍度必须和业务语义对齐——不是越小越好,也不是随便拍个
1e-9就完事。同一个函数,在金额校验和坐标渲染里该用的阈值可能差六个数量级。
相关文章
Django批量保存JSON数据并基于唯一字段自动更新时间戳的完整实现
如何在 Windows 上强制更新本地 godoc 服务器中的私有包文档
Go 中函数参数的求值顺序与逻辑短路行为详解
谷歌Chrome最新版官方主页 Google Chrome最新版快速访问入口
Google Chrome最新版安全入口 谷歌官方Chrome最新升级入口
相关标签:
本站声明:本文内容由网友自发贡献,版权归原作者所有,本站不承担相应法律责任。如您发现有涉嫌抄袭侵权的内容,请联系admin@php.cn
热门AI工具
相关专题
golang定义变量的方法:1、声明变量并赋予初始值“var age int =值”;2、声明变量但不赋初始值“var age int”;3、使用短变量声明“age :=值”等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。
539
2024.02.23
golang数据转换方法:1、类型转换操作符;2、类型断言;3、字符串和数字之间的转换;4、JSON序列化和反序列化;5、使用标准库进行数据转换;6、使用第三方库进行数据转换;7、自定义数据转换函数。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。
616
2024.02.23
golang常用库有:1、标准库;2、字符串处理库;3、网络库;4、加密库;5、压缩库;6、xml和json解析库;7、日期和时间库;8、数据库操作库;9、文件操作库;10、图像处理库。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。
1236
2024.02.23
golang和python的区别是:1、golang是一种编译型语言,而python是一种解释型语言;2、golang天生支持并发编程,而python对并发与并行的支持相对较弱等等。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。
791
2024.03.05
golang是免费的。golang是google开发的一种静态强类型、编译型、并发型,并具有垃圾回收功能的开源编程语言,采用bsd开源协议。本专题为大家提供相关的文章、下载、课程内容,供大家免费下载体验。
1826
2024.05.21
DBeaver数据导入专题,整理Excel、CSV、SQL、TXT等常见文件的数据导入方法,涵盖目标数据库选择、数据表创建、字段映射、数据类型设置及导入参数配置等操作,帮助用户将本地文件中的数据写入数据库,并了解批量导入、重复数据处理和导入失败等常见问题的解决方法。
0
2026.11.05
热门下载
相关下载
精品课程
共0课时 | 0人学习
共0课时 | 0人学习
共0课时 | 0人学习
最新文章













