jony7788
级别: 论坛先锋
精华主题: 0
发帖数量: 39 个
工控威望: 1631 点
下载积分: 1385 分
在线时间: 215(小时)
注册时间: 2023-02-25
最后登录: 2024-11-18
查看jony7788的 主题 / 回贴
楼主  发表于: 2023-09-29 15:33
图片:
图片:
用三菱PLC(FX-3U)计算对数,发现同EXCEL直接计算的有差异,两个数值都是相差0.09,是什么原因造成的呢。
[ 此帖被jony7788在2023-09-29 20:26重新编辑 ]
gzcjx555
QQ  296686949
级别: 工控侠客
精华主题: 0
发帖数量: 478 个
工控威望: 4164 点
下载积分: 294 分
在线时间: 333(小时)
注册时间: 2014-02-15
最后登录: 2024-11-19
查看gzcjx555的 主题 / 回贴
1楼  发表于: 2023-09-29 18:10
计算精度问题,三菱FX3U只支持单精度浮点计算,32位,EXCEL默认使用双精度浮点,也就是64位。
本帖最近评分记录:
  • 下载积分:+5(jony7788) 热心助人!
  • 联系电话15071699246,QQ296686949
    jony7788
    级别: 论坛先锋
    精华主题: 0
    发帖数量: 39 个
    工控威望: 1631 点
    下载积分: 1385 分
    在线时间: 215(小时)
    注册时间: 2023-02-25
    最后登录: 2024-11-18
    查看jony7788的 主题 / 回贴
    2楼  发表于: 2023-09-29 20:01
    感谢!
    后面发现当数值大于一定值的时候,两者的计算结果是一样的。
    niningtt
    级别: 工控侠客
    精华主题: 0
    发帖数量: 1230 个
    工控威望: 3550 点
    下载积分: 858 分
    在线时间: 459(小时)
    注册时间: 2010-08-24
    最后登录: 2024-11-16
    查看niningtt的 主题 / 回贴
    3楼  发表于: 2023-10-06 16:16
    你PLC计算的结果0.004,0.007只是四舍五入的三位小数结果,实际按32为浮点数还有几位有效数字,只是编程软件没有显示出来,不表示那是计算的参数值
    本帖最近评分记录:
  • 下载积分:+5(jony7788) 热心助人!
    cypress1121
    级别: 工控侠客
    精华主题: 0
    发帖数量: 184 个
    工控威望: 3272 点
    下载积分: 16883 分
    在线时间: 412(小时)
    注册时间: 2020-01-07
    最后登录: 2024-11-19
    查看cypress1121的 主题 / 回贴
    4楼  发表于: 2023-10-06 17:00
    小數點位數問題~~