有什么办法能提升浮点数计算精度
  • 板块学术版
  • 楼主zhangbo1000
  • 当前回复4
  • 已保存回复4
  • 发布时间2024/4/18 13:09
  • 上次更新2024/4/18 18:12:53
查看原帖
有什么办法能提升浮点数计算精度
760291
zhangbo1000楼主2024/4/18 13:09

rt,目的是给 FFT 算高精度乘法压位(NTT 不如 FFT 快),目前是压两位以上会出错,试过了 long double,不管用。

2024/4/18 13:09
加载中...