Labfans是一个针对大学生、工程师和科研工作者的技术社区。 论坛首页 | 联系我们(Contact Us)
MATLAB爱好者论坛-LabFans.com
返回   MATLAB爱好者论坛-LabFans.com > 工程数学软件 > MATLAB论坛
MATLAB论坛 一切MATLAB相关问题在此讨论。
 
 
主题工具 显示模式
旧 2019-09-09, 19:25   #1
az1981cn
初级会员
 
注册日期: 2019-09-09
帖子: 2
声望力: 0
az1981cn 正向着好的方向发展
默认 请教matlab定点计算溢出的问题

代码:
T.F = fimath('SumMode','SpecifyPrecision', 'SumWordLength', 10, 'SumFractionLength', 4);
a=fi(-32,1,10,4,T.F)
b=fi(-1.5,1,10,4,T.F)
c=fi(-25.9375,1,10,4,T.F)
d=fi(9,1,10,4,T.F)

K>> a+b+c+d

ans = 

   -23

          DataTypeMode: Fixed-point: binary point scaling
            Signedness: Signed
            WordLength: 10
        FractionLength: 4

        RoundingMethod: Nearest
        OverflowAction: Saturate
           ProductMode: FullPrecision
               SumMode: SpecifyPrecision
         SumWordLength: 10
     SumFractionLength: 4
         CastBeforeSum: true
为什么输出结果是-23,而不是-32呢?
az1981cn 当前离线   回复时引用此帖
 


发帖规则
不可以发表新主题
不可以发表回复
不可以上传附件
不可以编辑自己的帖子

启用 BB 代码
论坛启用 表情符号
论坛启用 [IMG] 代码
论坛禁用 HTML 代码



所有时间均为北京时间。现在的时间是 02:37


Powered by vBulletin
版权所有 ©2000 - 2025,Jelsoft Enterprises Ltd.