理论:
把测量量满值等份成4095份。实测值乘以一份的量
工程值=测量值*0.34188034188034188034188034188034
阻碍:
单份非整形数据,需浮点计算
解决方法:
1、转换为浮点数后计算
优点:精度
缺点:运行速度、寄存器使用量
注意:1N是否支持FLT和INT这两个数据转换指令未知。起码我知道2N以上有……
2、将数值翻倍后取整
优点:速度、寄存器使用量
缺点:精度
注意:单一寄存器有效最大无符号整形数为65535。设置倍率时需留意计算值范围。穷举推算的结果最合适倍率为6倍,误差-2.5%