yizhiduxiu
级别: 略有小成
精华主题: 0
发帖数量: 71 个
工控威望: 249 点
下载积分: 3233 分
在线时间: 106(小时)
注册时间: 2007-08-07
最后登录: 2024-12-18
查看yizhiduxiu的 主题 / 回贴
楼主  发表于: 2011-08-09 10:24
全看 | 小 中 大
各位前辈:
       现本人有一个需要精确运算的不知如何编写,请各位大侠指教.谢谢
    2000/94.2=D100
       算出来的结果*484.7=D200
     算出来的结果以整数输出脉冲.
    谢谢各位了.
gali1120107
漫漫长路，吾将上下而求索。
级别: 家园常客
精华主题: 0
发帖数量: 501 个
工控威望: 974 点
下载积分: 1182 分
在线时间: 165(小时)
注册时间: 2010-06-19
最后登录: 2024-09-12
查看gali1120107的 主题 / 回贴
1楼  发表于: 2011-08-23 21:47
全看 | 小 中 大
我觉得不是现在数据放大再运算比较好，你用浮点数算到最后还是四舍五入了吧