科技改变未来
知识就是让你秃头的力量
级别: 家园常客
精华主题: 0
发帖数量: 552 个
工控威望: 758 点
下载积分: 10387 分
在线时间: 439(小时)
注册时间: 2011-04-18
最后登录: 2024-11-06
查看科技改变未来的 主题 / 回贴
楼主  发表于: 2022-08-24 10:44
全看 | 小 中 大
图片：
图片：
如图通过模拟发现 被除数小于82时候，算出的结果是准的 。被除数大于83 ，为什么结果就不准了呢/有知道原因的小伙伴吗
niningtt
级别: 工控侠客
精华主题: 0
发帖数量: 1230 个
工控威望: 3550 点
下载积分: 858 分
在线时间: 459(小时)
注册时间: 2010-08-24
最后登录: 2024-11-16
查看niningtt的 主题 / 回贴
1楼  发表于: 2022-08-25 11:54
全看 | 小 中 大
IEEE 754 浮点数的尾数部分是23位，也就是23位的二进制是真正实现数值的精度的，指数可以近似理解为确定小数点位数(这么说便于理解)。1/128=0.0078125,也就在这附近了，精度不够了，所以浮点数不需要纠结最后面的小数，只要小数点前位数多，小数点后就会出现，甚至太多的话个位、十位、百位都有可能北省去