abs函数有精度误差吗？
  • 板块学术版
  • 楼主conprour
  • 当前回复2
  • 已保存回复2
  • 发布时间2021/10/7 21:40
  • 上次更新2023/11/4 04:23:08
查看原帖
abs函数有精度误差吗？
234783
conprour楼主2021/10/7 21:40

RT，虽然目前没有遇到问题，但同为cmath里的ceil() pow()函数都可能出精度问题。abs函数的返回值也是double，会有精度误差吗？

2021/10/7 21:40