当前位置:七道奇文章资讯编程技术VC/C++编程
日期:2011-03-22 13:54:00  来源:本站整理

Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG[VC/C++编程]

赞助商链接



  本文“Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG[VC/C++编程]”是由七道奇为您精心收集,来源于网络转载,文章版权归文章作者所有,本站不对其观点以及内容做任何评价,请读者自行判断,以下是其具体内容:

在写完fract除法之后,无意发目前vdsp的一个头文件中供应了fract16除法运算的函数,这个文件就是VisualDSP 5.0Blackfinincludefract_math.h:

/* Produces a result which is the fractional division of f1 by f2. Not a builtin
* as written in C code. */
#pragma inline
#pragma always_inline
static fract16 div_s(fract16 _a, fract16 _b) {
  int x = (int)_a;
  int y = (int)_b;
  fract16 rtn;
  int i;
  int aq;
  if (x==0) {
    rtn = 0;
  }
  else if (x>=y) {
    rtn = 0x7fff;
  }
  else {
    x <<= 16;
    x = divs(x, y, &aq);
    for (i=0; i<15; i++) {
      x = divq(x, y, &aq);
    }
    rtn = (fract16) x;
  }
  return rtn;
}

这个内联函数和vdsp文档中供应的示例函数完好一样,也就是说,它存在一个《Vdsp(bf561)中的浮点运算(14):fract16除法》中提到的缺陷,假如你用它计算一个正的小数和一个负的小数的除法,它将毫不客气地返回1.

比方用它计算 0.2 / -0.4,这个是不该该呈现饱和的!

呈现这个问题的缘由在于

int x = (int)_a;
int y = (int)_b;

然后就举行了x和y的对比,由于举行的是整数的对比,正数明显永久大于负数,所以就造成了这样的问题.

以0.2 / -0.4为例:

0.2转换为以十六进制表示的数为0x1999,而-0.4则为0xCCCC,当这两个值赋给x和y后辨别变成了0x00001999和0xffffcccc,也就是6553和-13108,哈哈,正数大于负数,小学生都知道!

等待下一个update可以改正.


  以上是“Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG[VC/C++编程]”的内容,如果你对以上该文章内容感兴趣,你可以看看七道奇为您推荐以下文章:
  • Vdsp(bf561)中的浮点运算(7):float乘法运算
  • Vdsp(bf561)中的浮点运算(8):float除法运算
  • Vdsp(bf561)中的浮点运算(9):long double和float的对比
  • <b>Vdsp(bf561)中的浮点运算(10):fract16范例表示</b>
  • Vdsp(bf561)中的浮点运算(11):fract16与float的转换
  • Vdsp(bf561)中的浮点运算(12):fract16加减运算
  • <b>Vdsp(bf561)中的浮点运算(13):fract16乘法运算</b>
  • <b>Vdsp(bf561)中的浮点运算(14):fract16除法</b>
  • Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG
  • Vdsp(bf561)中的浮点运算(16):fract2x16范例
  • Vdsp(bf561)中的浮点运算(3):FLT_MIN
  • <b>Vdsp(bf561)中的浮点运算(4):FLT_MAX</b>
  • 本文地址: 与您的QQ/BBS好友分享!
    • 好的评价 如果您觉得此文章好,就请您
        0%(0)
    • 差的评价 如果您觉得此文章差,就请您
        0%(0)

    文章评论评论内容只代表网友观点,与本站立场无关!

       评论摘要(共 0 条,得分 0 分,平均 0 分) 查看完整评论
    Copyright © 2020-2022 www.xiamiku.com. All Rights Reserved .