引用 蜀中之首 在 2018/7/5 22:43:42 发言【内容省略】
发好这帖感觉是不是很好?赢了版主哎。知道版主为何不回应了吗?我不知道。
看懂版主和网友的回答了吗?知道为啥产生误差了吗?
我来告诉你,误差来自于浮点数乘法而不是转换,你整形乘法再转换你算看懂楼主的问题了吗?
最后修改:2018/7/6 8:41:06
点击:16947 回复:13
引用 蜀中之首 在 2018/7/5 22:43:42 发言【内容省略】
发好这帖感觉是不是很好?赢了版主哎。引用 蜀中之首 在 2018/7/5 22:43:42 发言【内容省略】
单精度浮点数的有效位是7位,以楼主贴出的图片所展示的台达机型并不支持双精度浮点数。