小数精度问题导致的错误
查看原帖
小数精度问题导致的错误
738864
zc13676820775楼主2023/8/10 15:33

计算机存储小数是会有误差的,类似于0.1存成0.100000000000000005551115。

因此对先除然后数位数的方法来说,总有几个测试点会出问题。

解决办法是手动模拟除法的过程,代码不复杂,但是转换过程需要细心一点(照下面的思路写,会清晰很多):

循环: 
	余数借位
	求商
	求余
2023/8/10 15:33
加载中...