中缀表达式运算时遇到的精度问题,求助
  • 板块灌水区
  • 楼主absolute_value
  • 当前回复7
  • 已保存回复7
  • 发布时间2023/10/3 13:44
  • 上次更新2023/11/2 16:19:53
查看原帖
中缀表达式运算时遇到的精度问题,求助
1067907
absolute_value楼主2023/10/3 13:44

在写中缀表达式计算器,考虑到实际需求,加入了输入16进制数的功能(返回的答案仍是10进制的,这个不影响) 问题是...因为使用double类型的缘故,导致.. 输入: 0x1000000−10x1000000-1 输出: 1.67772e+0071.67772e+007 实际需求: 1677721516777215

精度完全丢失了...

long double也无法解决

地址

2023/10/3 13:44
加载中...