登录
首页
PLC论坛
PLC论坛
回帖
发帖
正文
主题:浮点运算的问题
点击:852 回复:11
楼主
编辑
引用
管理
gfy4003
DEDIV K37520 k100 d0 结果是375.200
为什么把k37520改成K2147483640,怎么结果不是21474836.400
请看下面图片:
最后修改:
2014/12/15 17:54:20
14-12-13 23:43
1楼
编辑
引用
管理
ytleader
三菱的plc?
14-12-14 06:53
2楼
编辑
引用
管理
gfy4003
是的fx2n
14-12-14 09:03
3楼
编辑
引用
管理
九翱九天
双字节最大2147483648.你的数太大了
14-12-14 09:11
4楼
编辑
引用
管理
zytlc
32位浮点数最大7位有效数字,结果没有这么精确。
14-12-14 10:08
5楼
编辑
引用
管理
zrx517697809
超量程了
14-12-14 12:39
6楼
编辑
引用
管理
ZHTOK
为什么把k37520改成K2147483640,结果是多少啊?
14-12-14 19:35
7楼
编辑
引用
管理
www.xutengfei
运算超范围了。
14-12-15 08:57
8楼
编辑
引用
管理
gfy4003
2147473640还是在32位运算范围,怎么会超范围了,难道只能在16位运算范围
14-12-15 12:54
9楼
编辑
引用
管理
zytlc
结果对了,2.147*10^7,监控显示就这精度了,实际应该可以精确到2.147484*10^7
14-12-17 10:06
上一页
下一页
工控新闻
2026 ITES首批展商名录公布!先进装备技术品牌原厂,圳等你来
2026西门子数字化工业集团分销商业务加速峰会圆满落幕
优必选无人物流车赤兔α在富士康郑州工厂正式下线
皮尔磁:从标准到实践的计算桥梁
中国机械工业联合会:预计2026年机械工业主要指标增速在5.5%左右
中控与华为共筑工业 AI 全球竞争优势
2025年机械工业成绩单:产销形势好于上年,利润增速由降转增
劳斯莱斯SMR与横河电机携手,为小型模块化核反应堆交付数据处理与控制系统
更多新闻资讯