登录
首页 人机界面 台达HMI
回帖 发帖
正文

主题:关于赋值计算 请求指点一下

点击:556 回复:3

附件 2021-03-25_140939.jpg
附件 2021-03-25_141017.jpg
附件 2021-03-25_141028.jpg
附件 2021-03-25_141052.jpg
一个数值输入控件,一个数值显示控件,一句代码,结果和预想不一样,是为什么?
21-03-25 14:14

引用 piyufeng 在 2021/3/25 14:14:09 发言【内容省略】

因为:
看似输入的是3.00,由于通过定点整数显示的方式,因此实际在寄存器中的值是300。
通过300乘以300,结果就是90000,然后由于设定的是3位小数显示,因此最后显示为90.000。
触摸屏的计算完全没有问题,这个锅触摸屏不会替程序员背的。
Good Luck~
21-03-25 15:04
也就是说后台计算完全是按没有小数进行的,
为了前台正确显示,我还要根据小数的取位,在后台乘(除)10的n次方?

引用 cvlsam 在 2021/3/25 15:04:24 发言【内容省略】

21-03-25 15:26

引用 piyufeng 在 2021/3/25 15:26:12 发言【内容省略】

YES,因此纯小数运算请选用浮点数。
Good Luck~
21-03-25 16:16

工控新闻

更多新闻资讯