[MATLAB基础] 很诡异的一段非常简单的代码，高手请进！ - MATLAB爱好者论坛-LabFans.com

abc886 · 2010-11-01, 12:44

show(0.36)出不了结果，不知道怎么回事

ahjxhly · 2010-11-01, 20:19

这个应该是数值精度问题
format hex
0.36=3fd70a3d70a3d70a；

0.34+0.02=3fd70a3d70a3d70b；

最后一位不一样

t==xx 改为 |t-xx|<=eps

abc886 · 2010-11-02, 17:27

楼上正解，这个太重要了，编程中需要重视

kenan2008 · 2010-11-02, 21:17

引用:

作者: ahjxhly

这个应该是数值精度问题
format hex
0.36=3fd70a3d70a3d70a；

0.34+0.02=3fd70a3d70a3d70b；

最后一位不一样

t==xx 改为 |t-xx|<=eps

我就想知道为什么就对0.36，0.56，0.66这三个数出现这样的问题，而对其他的数没有问题？这应该不是随机的，因为每次运行都是一样的结果？

2010-11-01, 12:44	#1
abc886 初级会员注册日期: 2008-02-27 年龄: 38 帖子: 27 声望力: 18	回复: 很诡异的一段非常简单的代码，高手请进！ show(0.36)出不了结果，不知道怎么回事

2010-11-01, 20:19	#2
ahjxhly 初级会员注册日期: 2010-11-01 年龄: 36 帖子: 1 声望力: 0	回复: 很诡异的一段非常简单的代码，高手请进！这个应该是数值精度问题 format hex 0.36=3fd70a3d70a3d70a； 0.34+0.02=3fd70a3d70a3d70b；最后一位不一样 t==xx 改为 \|t-xx\|<=eps 此帖于 2010-11-01 20:46 被 ahjxhly 编辑。

2010-11-02, 17:27	#3
abc886 初级会员注册日期: 2008-02-27 年龄: 38 帖子: 27 声望力: 18	回复: 很诡异的一段非常简单的代码，高手请进！楼上正解，这个太重要了，编程中需要重视