Vdsp(bf561)中的浮点运算（15）：vdsp库的一个BUG

快乐虾

http://blog.csdn.net/lights_joy/

[email protected]

本文适用于

ADSP-BF561

Visual DSP++ 5.0 (update 6)

Vdsp dual processor simulate

欢迎转载，但请保留作者信息

在写完fract除法之后，偶然发现在vdsp的一个头文件中提供了fract16除法运算的函数，这个文件就是VisualDSP 5.0\Blackfin\include\fract_math.h：

/* Produces a result which is the fractional division of f1 by f2. Not a builtin

* as written in C code. */

#pragma inline

#pragma always_inline

static fract16 div_s(fract16 _a, fract16 _b) {

int x = (int)_a;

int y = (int)_b;

fract16 rtn;

int i;

int aq;

if (x==0) {

rtn = 0;

}

else if (x>=y) {

rtn = 0x7fff;

}

else {

x <<= 16;

x = divs(x, y, &aq);

for (i=0; i<15; i++) {

x = divq(x, y, &aq);

}

rtn = (fract16) x;

}

return rtn;

}

这个内联函数和vdsp文档中提供的示例函数完全一样，也就是说，它存在一个《Vdsp(bf561)中的浮点运算（14）：fract16除法》中提到的缺陷，如果你用它计算一个正的小数和一个负的小数的除法，它将毫不客气地返回1。

比如用它计算 0.2 / -0.4，这个是不应该出现饱和的！

出现这个问题的原因在于

int x = (int)_a;

int y = (int)_b;

然后就进行了x和y的比较，由于进行的是整数的比较，正数显然永远大于负数，所以就造成了这样的问题。

以0.2 / -0.4为例：

0.2转换为以十六进制表示的数为0x1999，而-0.4则为0xCCCC，当这两个值赋给x和y后分别变成了0x00001999和0xffffcccc，也就是6553和-13108，哈哈，正数大于负数，小学生都知道！

期待下一个update可以修正。

1 参考资料

Vdsp(bf561)中的浮点运算（14）：fract16除法(2009-8-18)

Vdsp(bf561)中的浮点运算（13）：fract16乘法运算(2009-8-18)

Vdsp(bf561)中的浮点运算（12）：fract16加减运算(2009-8-17)

Vdsp(bf561)中的浮点运算（11）：fract16与float的转换(2009-8-17)

Vdsp(bf561)中的浮点运算（10）：fract16类型表示(2009-8-17)

Vdsp(bf561)中的浮点运算（9）：long double和float的比较(2009-8-14)

Vdsp(bf561)中的浮点运算（8）：float除法运算(2009-8-14)

Vdsp(bf561)中的浮点运算（7）：float乘法运算(2009-8-13)

Vdsp(bf561)中的浮点运算（6）：float加减运算(2009-8-13)

Vdsp(bf561)中的浮点运算（5）：float类型表示总结(2009-8-12)

Vdsp(bf561)中的浮点运算（4）：FLT_MAX(2009-8-12)

Vdsp(bf561)中的浮点运算（3）：FLT_MIN(2008-12-19)

Vdsp(bf561)中的浮点运算（2）：float的疑问(2008-12-18)

Vdsp(bf561)中的浮点运算（1）：文档的说法(2008-12-16)