TI工程师,您好!
我现在基于VLFFT实例工程编写了一个VLFFT测试工程,FFT、转置、乘法等全部用的是VLFFT中提供的子函数,现在计算了64K和128K点的FFT,并且将结果和MATLAB中的运算结果进行了比较:
1)发现结果不完全一样,精度误差较大
2)论坛里并没有对误差的分析,也没有看到相关文档,请问TI之前有没有衡量过计算误差?
3)是什么原因造成的?是乘法运算?float精度不够?
谢谢!
TI工程师,您好!
我现在基于VLFFT实例工程编写了一个VLFFT测试工程,FFT、转置、乘法等全部用的是VLFFT中提供的子函数,现在计算了64K和128K点的FFT,并且将结果和MATLAB中的运算结果进行了比较:
1)发现结果不完全一样,精度误差较大
2)论坛里并没有对误差的分析,也没有看到相关文档,请问TI之前有没有衡量过计算误差?
3)是什么原因造成的?是乘法运算?float精度不够?
谢谢!