WHCSRL 技术网

matlab数据类型single vs double_可爱的小垃圾的博客

single vs double
今天在做小波变换,将数据wavelet transform再反变换回来,发现无法完全恢复。
debug了很久,发现问题出在我的数据类型是single,换成double就没有问题了。

所以注意,在进行一些复杂运算的时候,记住数据类型一定要记得换成double,否则就会出错。

我觉得原因是因为single是八位,精度不够进行复杂运算吧,会产生溢出问题。

反正切记,复杂运算之前看看自己的数据类型。
或者并不需要那么麻烦,一般我们的复杂运算都是放在写好的函数里面,只要将函数的输入的数据的类型直接变成double就可以。

input = double(input);
  • 1
文章知识点与官方知识档案匹配,可进一步学习相关知识
Python技能树人工智能深度学习28508 人正在系统学习中
推荐阅读