Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG[VC/C++编程]
本文“Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG[VC/C++编程]”是由七道奇为您精心收集,来源于网络转载,文章版权归文章作者所有,本站不对其观点以及内容做任何评价,请读者自行判断,以下是其具体内容:
在写完fract除法之后,无意发目前vdsp的一个头文件中供应了fract16除法运算的函数,这个文件就是VisualDSP 5.0Blackfinincludefract_math.h:
/* Produces a result which is the fractional division of f1 by f2. Not a builtin
* as written in C code. */
#pragma inline
#pragma always_inline
static fract16 div_s(fract16 _a, fract16 _b) {
int x = (int)_a;
int y = (int)_b;
fract16 rtn;
int i;
int aq;
if (x==0) {
rtn = 0;
}
else if (x>=y) {
rtn = 0x7fff;
}
else {
x <<= 16;
x = divs(x, y, &aq);
for (i=0; i<15; i++) {
x = divq(x, y, &aq);
}
rtn = (fract16) x;
}
return rtn;
}
这个内联函数和vdsp文档中供应的示例函数完好一样,也就是说,它存在一个《Vdsp(bf561)中的浮点运算(14):fract16除法》中提到的缺陷,假如你用它计算一个正的小数和一个负的小数的除法,它将毫不客气地返回1.
比方用它计算 0.2 / -0.4,这个是不该该呈现饱和的!
呈现这个问题的缘由在于
int x = (int)_a;
int y = (int)_b;
然后就举行了x和y的对比,由于举行的是整数的对比,正数明显永久大于负数,所以就造成了这样的问题.
以0.2 / -0.4为例:
0.2转换为以十六进制表示的数为0x1999,而-0.4则为0xCCCC,当这两个值赋给x和y后辨别变成了0x00001999和0xffffcccc,也就是6553和-13108,哈哈,正数大于负数,小学生都知道!
等待下一个update可以改正.
以上是“Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG[VC/C++编程]”的内容,如果你对以上该文章内容感兴趣,你可以看看七道奇为您推荐以下文章:
本文地址: | 与您的QQ/BBS好友分享! |