登录
首页 PLC论坛 PLC论坛
回帖 发帖
正文

主题:大家用三菱fx的浮点运算精度怎么搞的了

点击:2093 回复:9

算个3/400  0.0075.只有0.001的精度还要放大倍数?真是不方便了。
18-04-17 14:58

引用 PLC-hmi 在 2018/4/17 14:58:55 发言【内容省略】

我竟然还真的用计算器计算了一下。
附件 snap1.jpg
Good Luck~
18-04-17 16:28
是,plc算出来是多少你可以看看
18-04-17 16:34

引用 PLC-hmi 在 2018/4/17 14:58:55 发言【内容省略】

而在PLC软件中:
附件 snap1.jpg
显然也没有任何问题。
Good Luck~
18-04-17 16:37
0.007和00075精度是不一样的。
18-04-17 18:49

引用 PLC-hmi 在 2018/4/17 18:49:45 发言【内容省略】

把图放放大,我就知道贴图能仔细看的没几个。
附件 snap2.jpg
Good Luck~
18-04-17 19:02
真以为三菱连点浮点数都做不好?
附件 snap3.jpg
选择合适的监控数据类型才是程序员的重要工作,只知道地址的做法已经不适合现在标签化编程的需要了。
Good Luck~
18-04-17 19:08
另外告诉你一下,为何是0.007500而不是0.00750000000或者其他?
因为IEEE754的有效位数为6位。
Good Luck~
18-04-17 19:09
习惯了按f3监控直接看结果了,搞复杂的监控也比较累。
18-04-17 20:08

引用 cvlsam 在 2018/4/17 19:09:01 发言【内容省略】

精度是6位或7位,这个还真不一定。6位是有保证的,但有时候也会是7位。
18-04-18 13:29

工控新闻

更多新闻资讯