如题,问这个问题是由于现场有人员反应,我用整数乘除法处理的时候产生了偏差值,但是这个偏差值达到了20多,感觉不可能,但是如果是浮点数的话那就有这个可能。附上运算程序图
点击:1894 回复:10
引用 305456779 在 2015/9/10 14:54:38 发言【内容省略】
目前没有看到过有厂家的AD模块为浮点数读取的,都是整数。引用 穿孩子的树 在 2015/9/10 15:48:28 发言【内容省略】
问题是我后面没有乘法运算,如果整除后再使用乘法运算那是会产生很大的偏差,所以不明白,是我绕进去了么?