gongk123
级别: *
精华主题: * 篇
发帖数量: * 个
工控威望: * 点
下载积分: * 分
在线时间: (小时)
注册时间: *
最后登录: *
查看gongk123的 主题 / 回贴
楼主  发表于: 2010-11-29 21:16
用浮点数指令计算10除3后是等于3.333还是3.3333333333333333333?? ,我看监控时只有3.333  啊
shaolinsi
佛曰:不可说
级别: VIP会员
精华主题: 0
发帖数量: 561 个
工控威望: 1209 点
下载积分: 1554 分
在线时间: 112(小时)
注册时间: 2010-05-04
最后登录: 2014-11-13
查看shaolinsi的 主题 / 回贴
1楼  发表于: 2010-11-29 22:13
好象现在还无法制造出完全存下10除以3的的存储器,只好保留了。
饿米豆腐