jony7788
级别: 论坛先锋
精华主题: 0
发帖数量: 39 个
工控威望: 1631 点
下载积分: 1385 分
在线时间: 215(小时)
注册时间: 2023-02-25
最后登录: 2024-11-18
查看jony7788的 主题 / 回贴
楼主  发表于: 2023-09-29 15:33
全看 | 小 中 大
图片：
图片：
用三菱PLC(FX-3U)计算对数，发现同EXCEL直接计算的有差异，两个数值都是相差0.09，是什么原因造成的呢。
[ 此帖被jony7788在2023-09-29 20:26重新编辑 ]
gzcjx555
QQ  296686949
级别: 工控侠客
精华主题: 0
发帖数量: 478 个
工控威望: 4164 点
下载积分: 294 分
在线时间: 333(小时)
注册时间: 2014-02-15
最后登录: 2024-11-19
查看gzcjx555的 主题 / 回贴
1楼  发表于: 2023-09-29 18:10
全看 | 小 中 大
计算精度问题，三菱FX3U只支持单精度浮点计算，32位，EXCEL默认使用双精度浮点，也就是64位。
本帖最近评分记录：
  • 下载积分:+5(jony7788) 热心助人！
    • 联系电话15071699246，QQ296686949