电工学习网

 找回密码
 立即注册

RND指令执行出错的原因分析

2014-5-8 08:04| 编辑:电工学习网| 查看: 23472| 评论: 0|原作者: 廖常初

网友ktissot在用下面3条指令将浮点数转换为双整数时,发现了一个神秘的现象。

L  MD0
RND     //浮点数四舍五入
T   MD4
我们知道,最大的正的双整数是2147483647,大于这个数,RND指令转换会出错。
但是他的帖子说实际上能转换的最大的浮点数不是2147483647.0,而是2147483583.0。
这一段本应正常转换的区间转换会出错,为什么转换出错的分界点是2147483583.0,这里面隐藏了什么秘密?
这件事引起我极大的兴趣,为此我用仿真做了大量的实验,下面是我做实验发现的更多的现象:
1.转换出错的情况
RND指令的帮助中说:“如果超出允许范围,则状态位OV和OS被置位为1。结果存在累加器1中”。“出现错误(使用了不能表示为32位整数的NaN或浮点数)时不执行转换并显示溢出。”。
下图用程序状态监控状态字STATUS WORD。
大于2147483647.0时转换出错。
大于2147483584.0到2147483647.0这一段照理说在应该在能转换的范围里,但是转换也会出错,状态字的OV和OS位(第4、5位)被置位为1(见下图)。MD4中是没有转换的浮点数,而不是双整数。转换出错的分界点是2147483584.0。

2.转换成功的情况

小于16777215.0左右转换结果完全正确。转换成功时OV和OS为0。

小于2147483584.0到16777215.0这一段可以转换,但是转换有误差。

接近2147483584.0时,最大误差为64。

大于2147483456.0 ~ 2147483584.0时(区间范围为128.0),转换后得到的双整数均为2147483520(16#7FFF FF80,见下图)。转换结果2147483520是区间中点的值,(2147483456 + 2147483584)/2= 2147483520。

大于2147483328.0 ~ 2147483456.0时,转换后得到的双整数均为2147483392(16#7FFF FF00)。

大于2147483200.0 ~ 2147483328.0时,转换后得到的双整数均为2147483264(16#7FFF FE80)。

经过分析,我已经找到了上述现象的原因,结果暂不公布,希望有兴趣的网友一起来分析一下,共享解决问题的快乐。

3.转换结果分析

大于2147483456.0 ~ 2147483584.0时转换后得到2147483520(16#7FFF FF80)。

大于2147483328.0 ~ 2147483456.0时转换后得到2147483392(16#7FFF FF00)。

大于2147483200.0 ~ 2147483328.0时转换后得到2147483264(16#7FFF FE80)。

上述3个区间内部的间隔为128.0,转换结果为区间的中点(2147483456 + 2147483584)/2= 2147483520。

所以这种转换并不精确,最大误差为128/2=64。

浮点数转换为双整数的转换误差的根本原因是32位浮点数和32位双整数的有效位数的差异造成的。

浮点数由一位符号位、8位指数和尾数的小数部分(23位)组成。尾数的位数决定了浮点数的精度。尾数的整数部分为1,小数部分为23位,所以尾数的有效数字为24位。

双整数除去一位符号位,其有效位数为31位,因此浮点数的有效位数比双整数少7位。

2147483456.0 ~ 2147483584.0相差128.0,它们对应的整数为31位有效数字,这些浮点数输入plc后,因为浮点数的有效位数只有24位,它们的尾数相同,对应的十六进制表示的浮点数均为16#4EFF FFFF,或2.17484e+009(注意有效尾数为十进制7位,而不是对应的整数的10位)。所以转换为双整数后均为2147483520。

ktissot网友说:“这就像看一片湖水一样,你可以看到水和浪花,但是绝对看不到水分子。”由于有效位数较小,浮点数不能分辨“水分子”2147483457.0 ~ 2147483584.0,我们只能看到“浪花”2147483520(16#7FFF FF80)。

如果浮点数较小,例如小于16777215(16#FF FFFF),整数部分只有24位,转换后就没有上述的误差了。在此基础上增大,整数部分的位数越大,误差越大。

因为有效位数相差7位,在接近双整数最大值的区段,浮点数的尾数相差一个数时,转换为双整数后,相差128。2的7次方等于128。

4.高端转换出错的原因分析

为什么最高端大于2147483584.0的数不能正确地转换呢?请注意小于2147483648.0到大于2147483584.0这段范围刚好是64.0(128.0的一半)。RND指令在转换时将这段范围的尾数四舍五入后,尾数的最低位加1,相当于转换后的整数加128(16#80),由上述的16#7FFF FF80(2147483520)加16#80后变为16#8000 0000,超出了双整数整数的允许范围,产生了溢出,所以转换出错。

看过《RND指令执行出错的原因分析》的人还看了以下文章:

发表评论

最新评论

  • PLC输入端和输出端怎么接线
  • 什么是COM端口?PLC中COM端口如何接线?
  • plc控制电动机正反转梯形图
  • 西门子S7-200系列PLC全套接线图
  • PLC十字路口的交通灯控制编程实例
  • plc基础知识指令27个
热点文章

电工学习网 ( )

GMT+8, 2023-3-9 22:19

Powered by © 2011-2022 www.shop-samurai.com 版权所有 免责声明 不良信息举报

技术驱动未来! 电工学习网—专业电工基础知识电工技术学习网站。

栏目导航: 工控家园 | 三菱plc | 西门子plc | 欧姆龙plc | plc视频教程

返回顶部