Vdsp(bf561)中的浮点运算(15):vdsp库的一个BUG
在写完fract除法之后,偶然发现在vdsp的一个头文件中提供了fract16除法运算的函数,这个文件就是VisualDSP 5.0\Blackfin\include\fract_math.h:
这个内联函数和vdsp文档中提供的示例函数完全一样,也就是说,它存在一个《Vdsp(bf561)中的浮点运算(14):fract16除法》中提到的缺陷,如果你用它计算一个正的小数和一个负的小数的除法,它将毫不客气地返回1。 比如用它计算 0.2 / -0.4,这个是不应该出现饱和的! 出现这个问题的原因在于
然后就进行了x和y的比较,由于进行的是整数的比较,正数显然永远大于负数,所以就造成了这样的问题。 以0.2 / -0.4为例: 0.2转换为以十六进制表示的数为0x1999,而-0.4则为0xCCCC,当这两个值赋给x和y后分别变成了0x00001999和0xffffcccc,也就是6553和-13108,哈哈,正数大于负数,小学生都知道! 期待下一个update可以修正。 |
凌众科技专业提供服务器租用、服务器托管、企业邮局、虚拟主机等服务,公司网站:http://www.lingzhong.cn 为了给广大客户了解更多的技术信息,本技术文章收集来源于网络,凌众科技尊重文章作者的版权,如果有涉及你的版权有必要删除你的文章,请和我们联系。以上信息与文章正文是不可分割的一部分,如果您要转载本文章,请保留以上信息,谢谢! |