警示后人(对于高斯消元做法)
查看原帖
警示后人(对于高斯消元做法)
572133
潘德理2010楼主2025/5/28 20:09

注意浮点数的精度问题。

  • 对于一个浮点数 xx 是否是整数的判断,应使用 fabs(x-round(x))<1e-8。其中 round 不能用 floorceil 代替,1e-8 不能用 1e-12 等代替,不能使用类似 x==round(x) 的表达。

  • 将一个浮点数 xx 转化为整数 aa,应使用 a=round(x)round 同样不能用 floorceil 代替,且不能使用 a=x

  • 判断浮点数 xxyy 是否相等,应使用 fabs(x-y)<1e-8,同样不能使用 x==y

本人因这些问题被硬控 33 小时,以此为戒。

2025/5/28 20:09
加载中...