登录
首页
人机界面
人机界面
回帖
发帖
正文
主题:人机浮点运算为什么会出错?
点击:678 回复:2
楼主
编辑
引用
管理
fuhuafeng72
计算涉及到包含非常大和非常小数字的一长串数值时,计算结果可能不准确。
如果数字相差 10 的 x 次方,其中 x > 6 (Real) 或 15 (LReal),则会发生上述情况。 例如 (Real): 100 000 000 + 1 = 100 000 000.
这样的单精度浮点运算,为什么相差10的6次方以上就不正确了呢!
20-01-15 16:48
1楼
编辑
引用
管理
51477工控迷
我觉得吧这毕竟是一个机器,我用施耐德的PLC浮点运算最多能支持小数点后的两位还是三位来的,,所以不太奢求精度
20-01-15 17:14
2楼
编辑
引用
管理
pqsh
因为单精度浮点的数位精度就是6位,超出6位差别,就没法计算了.
也就是说,它只能留着大约6位小数.比如1.999888,你让它加0.0000009(9.000000^10-7),它就瞎了一样,看不到.
20-01-15 22:04
工控新闻
东土科技牵手沙特投资部 鸿道驶入中东千亿级市场
麦德胜智能测控创新中心启用,开启工业安全绿色发展新纪元
图尔克重庆论坛 回顾 | 智能维护如何及时检测到故障?
罗克韦尔自动化携手上海气候周开启“气候灯塔”新纪元,气候灯塔评价通用规范推进成效初显
霍尼韦尔发布AI辅助自动化平台 推动生命科学制造业转型
华为、地平线、大众、东风、起亚等引领汽车技术变革, 来AMTS 2025了解更多未来汽车开发解决方案!
杭氧集团高层访问西门子德国总部,共探数字化转型与可持续发展新路径
第十九届中国国际机床展CIMT2025在京召开
更多新闻资讯