科技改变未来
知识就是让你秃头的力量
级别: 家园常客
精华主题: 0
发帖数量: 553 个
工控威望: 758 点
下载积分: 10387 分
在线时间: 439(小时)
注册时间: 2011-04-18
最后登录: 2024-11-06
查看科技改变未来的 主题 / 回贴
楼主  发表于: 2022-08-24 10:44
只看楼主 | 小 中 大
图片：
图片：
如图通过模拟发现 被除数小于82时候，算出的结果是准的 。被除数大于83 ，为什么结果就不准了呢/有知道原因的小伙伴吗
pretco123
不为失败找理由，只为成功找方法
级别: 论坛先锋

精华主题: 0
发帖数量: 2474 个
工控威望: 1761 点
下载积分: 82727 分
在线时间: 1509(小时)
注册时间: 2008-04-15
最后登录: 2024-11-22
查看pretco123的 主题 / 回贴
1楼  发表于: 2022-08-24 10:50
只看该作者 | 小 中 大
第二个图打不开
科技改变未来
知识就是让你秃头的力量
级别: 家园常客
精华主题: 0
发帖数量: 553 个
工控威望: 758 点
下载积分: 10387 分
在线时间: 439(小时)
注册时间: 2011-04-18
最后登录: 2024-11-06
查看科技改变未来的 主题 / 回贴
2楼  发表于: 2022-08-24 10:52
只看该作者 | 小 中 大
图片：
图片：
帮看看分析一下
菜鸟入行
级别: 论坛先锋

精华主题: 0
发帖数量: 1381 个
工控威望: 1557 点
下载积分: 3686 分
在线时间: 177(小时)
注册时间: 2017-09-01
最后登录: 2024-06-11
查看菜鸟入行的 主题 / 回贴
3楼  发表于: 2022-08-24 11:15
只看该作者 | 小 中 大
有没可能F83其实是82.99992
打个酱油，懂的不多
水平有限，能帮则帮
互相帮助，共同进步
zlcp123
级别: 工控侠客
精华主题: 0
发帖数量: 129 个
工控威望: 4320 点
下载积分: 13619 分
在线时间: 557(小时)
注册时间: 2018-09-11
最后登录: 2024-11-07
查看zlcp123的 主题 / 回贴
4楼  发表于: 2022-08-24 13:31
只看该作者 | 小 中 大
有什么问题吗？浮点数本来就是近似数
gxtmdb82164
级别: 论坛先锋
精华主题: 0
发帖数量: 757 个
工控威望: 1135 点
下载积分: 373 分
在线时间: 594(小时)
注册时间: 2019-09-22
最后登录: 2024-11-22
查看gxtmdb82164的 主题 / 回贴
5楼  发表于: 2022-08-24 15:16
只看该作者 | 小 中 大
你继续换其他数值,你会发现还有其他的数也会有误差~

这就是传说中,二进制不能用于表达任意值,通过浮点数格式,在有限范围内尽可能精确的逼近目标值~
libin520
虽然没什么突破和进步，却还是每天在坚持着。
级别: 工控侠客
精华主题: 1 篇
发帖数量: 2369 个
工控威望: 2798 点
下载积分: 4446 分
在线时间: 1172(小时)
注册时间: 2008-10-24
最后登录: 2024-11-22
查看libin520的 主题 / 回贴
6楼  发表于: 2022-08-25 00:31
只看该作者 | 小 中 大
中间需要转化一下。详见以下视频。更正K100应为E100。
https://www.bilibili.com/video/BV1vg411r7dj?spm_id_from=333.999.0.0&vd_source=fe01af24b36f4ec9d5907739c0079391
之前也看到过这个问题。网上搜索了一下。里面的内容需要批判继承
三菱浮点数转整数INT指令运算结果为什么不对.zip (1134 K) 下载次数:30
需要高品质音乐资源+QQ群：723680148，音质好的音乐让爱车如音乐海洋。享受美妙音乐带来的超快感。音乐文件资源来聊即送。
明月照我心
干饭了！干饭了！
级别: 略有小成
精华主题: 0
发帖数量: 81 个
工控威望: 322 点
下载积分: 171 分
在线时间: 36(小时)
注册时间: 2022-08-02
最后登录: 2024-07-30
查看明月照我心的 主题 / 回贴
7楼  发表于: 2022-08-25 08:09
只看该作者 | 小 中 大
     学习
哪有什么岁月尽好，只有一堆人在替你遮风挡雨！
rongbing
级别: 论坛先锋
精华主题: 0
发帖数量: 1052 个
工控威望: 1251 点
下载积分: 21803 分
在线时间: 292(小时)
注册时间: 2015-02-15
最后登录: 2024-11-22
查看rongbing的 主题 / 回贴
8楼  发表于: 2022-08-25 08:18
只看该作者 | 小 中 大
浮点数近似值
niningtt
级别: 工控侠客
精华主题: 0
发帖数量: 1230 个
工控威望: 3550 点
下载积分: 858 分
在线时间: 459(小时)
注册时间: 2010-08-24
最后登录: 2024-11-16
查看niningtt的 主题 / 回贴
9楼  发表于: 2022-08-25 11:54
只看该作者 | 小 中 大
IEEE 754 浮点数的尾数部分是23位，也就是23位的二进制是真正实现数值的精度的，指数可以近似理解为确定小数点位数(这么说便于理解)。1/128=0.0078125,也就在这附近了，精度不够了，所以浮点数不需要纠结最后面的小数，只要小数点前位数多，小数点后就会出现，甚至太多的话个位、十位、百位都有可能北省去