Quantcast
Channel: 数字信号处理器 (DSP) & ARM® 微处理器
Viewing all articles
Browse latest Browse all 21822

帖子: 关于VLFFT计算精度问题,和MATLAB对比,谢谢

$
0
0

TI工程师,您好!

      我现在基于VLFFT实例工程编写了一个VLFFT测试工程,FFT、转置、乘法等全部用的是VLFFT中提供的子函数,现在计算了64K和128K点的FFT,并且将结果和MATLAB中的运算结果进行了比较:

1)发现结果不完全一样,精度误差较大

2)论坛里并没有对误差的分析,也没有看到相关文档,请问TI之前有没有衡量过计算误差?

3)是什么原因造成的?是乘法运算?float精度不够?

谢谢!


Viewing all articles
Browse latest Browse all 21822

Trending Articles