登录
首页
PLC论坛
PLC论坛
回帖
发帖
正文
主题:浮点运算的问题
点击:852 回复:11
楼主
编辑
引用
管理
gfy4003
DEDIV K37520 k100 d0 结果是375.200
为什么把k37520改成K2147483640,怎么结果不是21474836.400
请看下面图片:
最后修改:
2014/12/15 17:54:20
14-12-13 23:43
1楼
编辑
引用
管理
ytleader
三菱的plc?
14-12-14 06:53
2楼
编辑
引用
管理
gfy4003
是的fx2n
14-12-14 09:03
3楼
编辑
引用
管理
九翱九天
双字节最大2147483648.你的数太大了
14-12-14 09:11
4楼
编辑
引用
管理
zytlc
32位浮点数最大7位有效数字,结果没有这么精确。
14-12-14 10:08
5楼
编辑
引用
管理
zrx517697809
超量程了
14-12-14 12:39
6楼
编辑
引用
管理
ZHTOK
为什么把k37520改成K2147483640,结果是多少啊?
14-12-14 19:35
7楼
编辑
引用
管理
www.xutengfei
运算超范围了。
14-12-15 08:57
8楼
编辑
引用
管理
gfy4003
2147473640还是在32位运算范围,怎么会超范围了,难道只能在16位运算范围
14-12-15 12:54
9楼
编辑
引用
管理
zytlc
结果对了,2.147*10^7,监控显示就这精度了,实际应该可以精确到2.147484*10^7
14-12-17 10:06
上一页
下一页
工控新闻
2025年机械工业成绩单:产销形势好于上年,利润增速由降转增
筑牢工业安全防线 彰显自主创新实力——大连LNG火气系统全国产化改造成功投用
西门子发布两款SIMATIC IPC新品
六十载创新积淀,ADI开启边缘智能新篇章
五大应用场景示范 看台达SCARA机器人玩转智能生产线
倍福在XPlanar 在制药与化妆品灌装中的应用
和利时携手富春环保的能效升级之路
海克斯康智慧矿山Split Desktop重现百年采石作业
更多新闻资讯