锦绣明天
级别: 探索解密
精华主题: 0
发帖数量: 59 个
工控威望: 184 点
下载积分: 937 分
在线时间: 264(小时)
注册时间: 2014-10-04
最后登录: 2024-11-17
查看锦绣明天的 主题 / 回贴
楼主  发表于: 2024-05-22 23:05
请教大师三菱,0.087890625×2034这个数如何写程式计算。
Lu
雪山飞狐
级别: 网络英雄
精华主题: 0
发帖数量: 12258 个
工控威望: 14678 点
下载积分: 36979 分
在线时间: 927(小时)
注册时间: 2019-06-05
最后登录: 2024-11-22
查看雪山飞狐的 主题 / 回贴
1楼  发表于: 2024-05-23 08:51
研究学习。
heiheiwodeai
级别: 略有小成
精华主题: 0
发帖数量: 246 个
工控威望: 368 点
下载积分: 976 分
在线时间: 330(小时)
注册时间: 2013-03-26
最后登录: 2024-11-22
查看heiheiwodeai的 主题 / 回贴
2楼  发表于: 2024-05-23 09:58
图片:
FLOAT只能处理到小数点后6位
雪山飞狐
级别: 网络英雄
精华主题: 0
发帖数量: 12258 个
工控威望: 14678 点
下载积分: 36979 分
在线时间: 927(小时)
注册时间: 2019-06-05
最后登录: 2024-11-22
查看雪山飞狐的 主题 / 回贴
3楼  发表于: 2024-05-23 11:37
把小数扩大n倍,结杲再缩小n倍。
雪山飞狐
级别: 网络英雄
精华主题: 0
发帖数量: 12258 个
工控威望: 14678 点
下载积分: 36979 分
在线时间: 927(小时)
注册时间: 2019-06-05
最后登录: 2024-11-22
查看雪山飞狐的 主题 / 回贴
4楼  发表于: 2024-05-23 11:37
仿试试看吧。
雪山飞狐
级别: 网络英雄
精华主题: 0
发帖数量: 12258 个
工控威望: 14678 点
下载积分: 36979 分
在线时间: 927(小时)
注册时间: 2019-06-05
最后登录: 2024-11-22
查看雪山飞狐的 主题 / 回贴
5楼  发表于: 2024-05-24 08:51
试试成功。
雪山飞狐
级别: 网络英雄
精华主题: 0
发帖数量: 12258 个
工控威望: 14678 点
下载积分: 36979 分
在线时间: 927(小时)
注册时间: 2019-06-05
最后登录: 2024-11-22
查看雪山飞狐的 主题 / 回贴
6楼  发表于: 2024-05-29 13:52
计算快乐。
上海工控人1
级别: 正式会员
精华主题: 0
发帖数量: 54 个
工控威望: 86 点
下载积分: 640 分
在线时间: 30(小时)
注册时间: 2023-08-17
最后登录: 2024-11-22
查看上海工控人1的 主题 / 回贴
7楼  发表于: 2024-05-29 14:31
单精度浮点精度不够,得用double 双精度浮点运算,看看控制吃支持64位双精度浮点运算嘛
可以联系我qq 1515325122 大家一起学习交流
雪山飞狐
级别: 网络英雄
精华主题: 0
发帖数量: 12258 个
工控威望: 14678 点
下载积分: 36979 分
在线时间: 927(小时)
注册时间: 2019-06-05
最后登录: 2024-11-22
查看雪山飞狐的 主题 / 回贴
8楼  发表于: 2024-05-30 07:12
计算问题。
雪山飞狐
级别: 网络英雄
精华主题: 0
发帖数量: 12258 个
工控威望: 14678 点
下载积分: 36979 分
在线时间: 927(小时)
注册时间: 2019-06-05
最后登录: 2024-11-22
查看雪山飞狐的 主题 / 回贴
9楼  发表于: 2024-05-30 08:17
多谢计算。