jony7788
级别: 论坛先锋
精华主题: 0
发帖数量: 49 个
工控威望: 1898 点
下载积分: 81 分
在线时间: 229(小时)
注册时间: 2023-02-25
最后登录: 2024-12-31
查看jony7788的 主题 / 回贴
楼主  发表于: 2023-09-29 15:33
只看楼主 | 小 中 大
图片：
图片：
用三菱PLC(FX-3U)计算对数，发现同EXCEL直接计算的有差异，两个数值都是相差0.09，是什么原因造成的呢。
[ 此帖被jony7788在2023-09-29 20:26重新编辑 ]
gzcjx555
QQ  296686949
级别: 工控侠客
精华主题: 0
发帖数量: 510 个
工控威望: 4197 点
下载积分: 1817 分
在线时间: 356(小时)
注册时间: 2014-02-15
最后登录: 2024-12-31
查看gzcjx555的 主题 / 回贴
1楼  发表于: 2023-09-29 18:10
只看该作者 | 小 中 大
计算精度问题，三菱FX3U只支持单精度浮点计算，32位，EXCEL默认使用双精度浮点，也就是64位。
本帖最近评分记录：
  • 下载积分:+5(jony7788) 热心助人！
    • 联系电话15071699246，QQ296686949
    jony7788
    级别: 论坛先锋
    精华主题: 0
    发帖数量: 49 个
    工控威望: 1898 点
    下载积分: 81 分
    在线时间: 229(小时)
    注册时间: 2023-02-25
    最后登录: 2024-12-31
    查看jony7788的 主题 / 回贴
    2楼  发表于: 2023-09-29 20:01
    只看该作者 | 小 中 大
    感谢！
    后面发现当数值大于一定值的时候，两者的计算结果是一样的。
    niningtt
    级别: 工控侠客
    精华主题: 0
    发帖数量: 1230 个
    工控威望: 3550 点
    下载积分: 858 分
    在线时间: 459(小时)
    注册时间: 2010-08-24
    最后登录: 2024-11-16
    查看niningtt的 主题 / 回贴
    3楼  发表于: 2023-10-06 16:16
    只看该作者 | 小 中 大
    你PLC计算的结果0.004,0.007只是四舍五入的三位小数结果，实际按32为浮点数还有几位有效数字，只是编程软件没有显示出来，不表示那是计算的参数值
    本帖最近评分记录：
  • 下载积分:+5(jony7788) 热心助人！
    cypress1121
    级别: 工控侠客
    精华主题: 0
    发帖数量: 184 个
    工控威望: 3272 点
    下载积分: 17383 分
    在线时间: 413(小时)
    注册时间: 2020-01-07
    最后登录: 2024-12-26
    查看cypress1121的 主题 / 回贴
    4楼  发表于: 2023-10-06 17:00
    只看该作者 | 小 中 大
    小數點位數問題~~