影帝刚
级别: 正式会员
精华主题: 0
发帖数量: 6 个
工控威望: 53 点
下载积分: 826 分
在线时间: 3(小时)
注册时间: 2018-03-23
最后登录: 2022-03-28
查看影帝刚的 主题 / 回贴
楼主  发表于: 2018-03-24 12:26
全看 | 小 中 大
图1
  图2
 浮点运算为什么D110里面是0.001 。D120里面是4.17e+005 。这些都是怎么换算的，算不出来。
caoxj007
级别: 探索解密
精华主题: 0
发帖数量: 29 个
工控威望: 159 点
下载积分: 1095 分
在线时间: 324(小时)
注册时间: 2013-04-24
最后登录: 2024-05-27
查看caoxj007的 主题 / 回贴
1楼  发表于: 2018-03-24 13:08
全看 | 小 中 大
D110里面的数据是0.0006472491，显示保留三未小数就是0.001
本帖最近评分记录：
  • 下载积分:+1(影帝刚) 热心助人！