lifeison
级别: 探索解密
精华主题: 0
发帖数量: 40 个
工控威望: 138 点
下载积分: 685 分
在线时间: 25(小时)
注册时间: 2016-07-12
最后登录: 2024-09-17
查看lifeison的 主题 / 回贴
楼主  发表于: 2016-12-06 08:20
全看 | 小 中 大
图片：
图片：
如图的两种运算方法，运算结果都有偏差！
cvlsam
富士低压，POD（觸摸屏），PLC专卖
级别: VIP会员

精华主题: 3 篇
发帖数量: 6760 个
工控威望: 38361 点
下载积分: 1083 分
在线时间: 9475(小时)
注册时间: 2006-09-13
最后登录: 2024-09-24
查看cvlsam的 主题 / 回贴
1楼  发表于: 2016-12-08 08:40
全看 | 小 中 大
引用
引用第3楼lifeison于2016-12-06 13:19发表的  :


已知A=22400,B=0.005625,求C

你说C=125.99999正常？请用计算器算一下！


您需要去了解一下IEEE754浮点数与我们PC上常说的浮点数的区别。

Good Luck~