wbenit
级别: 略有小成
精华主题: 0
发帖数量: 119 个
工控威望: 231 点
下载积分: 1249 分
在线时间: 78(小时)
注册时间: 2011-03-26
最后登录: 2013-01-29
查看wbenit的 主题 / 回贴
楼主  发表于: 2012-01-10 16:11


设置成小数一位的实数后,显示却不对。不知是什么原因,直接上图:
gali1120107
漫漫长路,吾将上下而求索。
级别: 家园常客
精华主题: 0
发帖数量: 501 个
工控威望: 974 点
下载积分: 1182 分
在线时间: 165(小时)
注册时间: 2010-06-19
最后登录: 2024-09-12
查看gali1120107的 主题 / 回贴
1楼  发表于: 2012-01-12 21:00
楼上两位加起来就完全正确啦!浮点型运算好像只能用32位.设置都要正确才行