登录
首页 PLC论坛 PLC论坛
回帖 发帖
正文

主题:浮点运算的问题

点击:852 回复:11

DEDIV K37520 k100  d0     结果是375.200
为什么把k37520改成K2147483640,怎么结果不是21474836.400
请看下面图片:
附件 未命名.jpg
最后修改:2014/12/15 17:54:20
14-12-13 23:43
三菱的plc?
14-12-14 06:53
是的fx2n
14-12-14 09:03
双字节最大2147483648.你的数太大了
14-12-14 09:11
32位浮点数最大7位有效数字,结果没有这么精确。
14-12-14 10:08
超量程了
14-12-14 12:39
   为什么把k37520改成K2147483640,结果是多少啊?
14-12-14 19:35
运算超范围了。
14-12-15 08:57
2147473640还是在32位运算范围,怎么会超范围了,难道只能在16位运算范围
14-12-15 12:54
结果对了,2.147*10^7,监控显示就这精度了,实际应该可以精确到2.147484*10^7
14-12-17 10:06

上一页下一页

工控新闻

更多新闻资讯