假设读出来的数据你存放至D100,用D100除以1000再乘以3,就是你所需要的数字。
不过,你说需要精度高一些,你是想检测结果更准确还是,显示结果更准确?
检测结果更准确,不考虑外界因素,主要决定于AD转换的分辨率,FX-2N-4AD好像是12位的转换分辨率,应该完全够用了,
如果你有更高要求,换个16位分辨率的。
显示结果更准确,那这里就涉及到整数和浮点数的问题了。采集回来的数存放至D100中,现在是个0到1000之间的整数,
所以要先将D100和1000转换成浮点数,再进行相除。算得一个浮点数的结果,假设是D200.这个D200你就可以在触摸屏中显示
出来,记住要在触摸屏中设置D200的显示格式为32位的Float格式(即浮点数格式)