求问,为什么 c语言的float 类型 1/5-3/20 结果与手算不同?
  • 板块灌水区
  • 楼主_扬子江_
  • 当前回复2
  • 已保存回复2
  • 发布时间2021/10/22 21:50
  • 上次更新2023/11/4 02:48:10
查看原帖
求问,为什么 c语言的float 类型 1/5-3/20 结果与手算不同?
347670
_扬子江_楼主2021/10/22 21:50

RT。0.2 的二进制表示为 0.00110011001100110011001,0.15 的二进制表示为 0.00100110011001100110011,那么两者相减应该为0.00001100110011001100110,结果手算为0.0499999523162841796875,但是结果输出为0.04999999701976776100,这是为什么呢?

2021/10/22 21:50
加载中...