zwz579
这系虾米社会，七透的比打拼的钱卡多。
级别: 略有小成
精华主题: 0
发帖数量: 502 个
工控威望: 408 点
下载积分: 2895 分
在线时间: 226(小时)
注册时间: 2008-03-18
最后登录: 2019-07-21
查看zwz579的 主题 / 回贴
楼主  发表于: 2011-06-22 20:31
全看 | 小 中 大
图片：
D205  读到的数据  乘于0.0875  在减去  27.5    
后面一个是  D215 得到的数据 乘于0.125    在减去20    ，可是计算结果跟我们自己计算的结果为什么不一样呢？
共同学习，共同进步。 www.xmohm.com
guohaiyu
混沌骑士
级别: 略有小成
精华主题: 0
发帖数量: 96 个
工控威望: 246 点
下载积分: 1309 分
在线时间: 43(小时)
注册时间: 2009-08-24
最后登录: 2018-06-27
查看guohaiyu的 主题 / 回贴
1楼  发表于: 2011-06-23 17:15
全看 | 小 中 大
浮点数运算上的错误，