18026919780
级别: 探索解密
精华主题: 0
发帖数量: 30 个
工控威望: 140 点
下载积分: 631 分
在线时间: 20(小时)
注册时间: 2021-06-20
最后登录: 2024-11-21
查看18026919780的 主题 / 回贴
楼主  发表于: 2022-11-16 16:45
全看 | 小 中 大
图片：
D10=D20,W99.00为什么不输出
hansir
级别: 探索解密
精华主题: 0
发帖数量: 44 个
工控威望: 101 点
下载积分: 2010 分
在线时间: 17(小时)
注册时间: 2021-09-17
最后登录: 2024-11-22
查看hansir的 主题 / 回贴
1楼  发表于: 2022-11-18 12:27
全看 | 小 中 大
虽然看起来一样，实际上内部存储的不一样，所以浮点数不能直接比较相等，一般加上范围进行比较更准确
本帖最近评分记录：
  • 下载积分:+1(guochunyi) 热心助人！
    hansir
    级别: 探索解密
    精华主题: 0
    发帖数量: 44 个
    工控威望: 101 点
    下载积分: 2010 分
    在线时间: 17(小时)
    注册时间: 2021-09-17
    最后登录: 2024-11-22
    查看hansir的 主题 / 回贴
    2楼  发表于: 2022-11-18 12:30
    全看 | 小 中 大
    图片：
    图片：
    如图，D10和D20中的值并不相同
    本帖最近评分记录：
  • 下载积分:+3(18026919780)
    hansir
    级别: 探索解密
    精华主题: 0
    发帖数量: 44 个
    工控威望: 101 点
    下载积分: 2010 分
    在线时间: 17(小时)
    注册时间: 2021-09-17
    最后登录: 2024-11-22
    查看hansir的 主题 / 回贴
    3楼  发表于: 2022-11-18 12:34
    全看 | 小 中 大
    浮点数是能比较大小的。只是不太合适比较两个浮点数是否“相等”。

    这是由于十进制的浮点数通常不能用有限位数的二进制表示。所以，计算机中保存的十进制浮点数都是“近似值”。举个例子说，10个十进制的0.1相加后，就“不等于”浮点数1.0



    所以，当需比较两个浮点数是否相等时，一般我们要比较这两个浮点数的差的绝对值，是否小于一个我们允许的误差值，比如1亿分之一。当小于这个数时，我们就认为这两个浮点数是“相等”的。
    本帖最近评分记录：
  • 下载积分:+3(18026919780)