科技改变未来
知识就是让你秃头的力量
级别: 家园常客
精华主题: 0
发帖数量: 553 个
工控威望: 758 点
下载积分: 10387 分
在线时间: 439(小时)
注册时间: 2011-04-18
最后登录: 2024-11-06
查看科技改变未来的 主题 / 回贴
楼主  发表于: 2022-08-24 10:44
全看 | 小 中 大
图片：
图片：
如图通过模拟发现 被除数小于82时候，算出的结果是准的 。被除数大于83 ，为什么结果就不准了呢/有知道原因的小伙伴吗
gxtmdb82164
级别: 论坛先锋
精华主题: 0
发帖数量: 755 个
工控威望: 1133 点
下载积分: 369 分
在线时间: 591(小时)
注册时间: 2019-09-22
最后登录: 2024-11-15
查看gxtmdb82164的 主题 / 回贴
1楼  发表于: 2022-08-24 15:16
全看 | 小 中 大
你继续换其他数值,你会发现还有其他的数也会有误差~

这就是传说中,二进制不能用于表达任意值,通过浮点数格式,在有限范围内尽可能精确的逼近目标值~