lifeison
级别: 探索解密
精华主题: 0
发帖数量: 40 个
工控威望: 138 点
下载积分: 685 分
在线时间: 25(小时)
注册时间: 2016-07-12
最后登录: 2024-12-07
查看lifeison的 主题 / 回贴
楼主  发表于: 2016-12-06 08:20
全看 | 小 中 大
图片：
图片：
如图的两种运算方法，运算结果都有偏差！
sjbandmm
级别: 略有小成
精华主题: 0
发帖数量: 237 个
工控威望: 407 点
下载积分: 987 分
在线时间: 168(小时)
注册时间: 2008-08-23
最后登录: 2024-11-19
查看sjbandmm的 主题 / 回贴
1楼  发表于: 2017-11-19 12:12
全看 | 小 中 大
浮点数进度问题，可以用双精度浮点数来解决问题，如果还不能达到精度，只能换成整数计算再转换为浮点数，只要是带小数的浮点数都是可能存在误差的，只有整数乘法没有误差。另外说一句，对于人家的回答，不管是对错，都要注意自己的态度！