王德位
级别: 略有小成
精华主题: 0
发帖数量: 239 个
工控威望: 386 点
下载积分: 1119 分
在线时间: 204(小时)
注册时间: 2016-05-05
最后登录: 2024-11-26
查看王德位的 主题 / 回贴
楼主  发表于: 2017-08-23 10:40
只看楼主 | 小 中 大
图片：
新手请教欧姆龙浮点数减法为什么不等于0.6，却等于0.5999999呢
往事如风
科技改变制造
级别: 网络英雄

精华主题: 0
发帖数量: 11404 个
工控威望: 18561 点
下载积分: 12124 分
在线时间: 2691(小时)
注册时间: 2013-01-31
最后登录: 2024-11-17
查看往事如风的 主题 / 回贴
1楼  发表于: 2017-08-23 12:43
只看该作者 | 小 中 大
既然是浮点运算就是这样，0.6说明四舍五入了
三人行者必有我师 ，择其善者而从之