查看单个帖子
旧 2019-12-10, 20:48   #1
poster
高级会员
 
注册日期: 2019-11-21
帖子: 3,006
声望力: 66
poster 正向着好的方向发展
帖子 为什么我的MATLAB中的数组饱和为255?

这是我的代码:

arr = zeros(fx-10,1); frm = frams(x).cdata; for k=1:fx-10 for i=1:10 for j=1:fy arr(k) = arr(k)+ abs(frm(k+i-1,j)-model(i,j)) end end end 为什么数组最多只能接收255个值?

我尝试定义:

arr = zeros(fx-10,1,'int64'); 和代码失败:
???类型为'int64'的输入参数的未定义函数或方法'plus'。

回答:

尽管数组arr的类型为double,但我相信从frm或model中获得的一个或多个值的类型为UINT8 ,最大值为255。完成将这些值添加到arr的算术运算后,我相信计算是使用整数算术完成的,结果被转换为double并放置在arr 。当您将UINT8值加在一起时,该值最终会以最大255饱和。

要解决此问题,可以在执行算术运算之前使用函数DOUBLE将值从frm或model转换为double类型。这样的事情应该起作用:

arr(k) = arr(k) + abs(double(frm(k+i-1,j))-double(model(i,j)));

更多&回答...
poster 当前离线   回复时引用此帖