| Labfans是一个针对大学生、工程师和科研工作者的技术社区。 | 论坛首页 | 联系我们(Contact Us) |
 |
| Labfans是一个针对大学生、工程师和科研工作者的技术社区。 | 论坛首页 | 联系我们(Contact Us) |
|
|
|
2010-11-01, 12:44
|
#1 |
|
初级会员
注册日期: 2008-02-27
年龄: 38
帖子: 27
声望力: 18  |
回复: 很诡异的一段非常简单的代码，高手请进！
show(0.36)出不了结果，不知道怎么回事
|
|
|
|
2010-11-01, 20:19
|
#2 |
|
初级会员
注册日期: 2010-11-01
年龄: 35
帖子: 1
声望力: 0 |
回复: 很诡异的一段非常简单的代码，高手请进！
这个应该是数值精度问题
format hex 0.36=3fd70a3d70a3d70a； 0.34+0.02=3fd70a3d70a3d70b； 最后一位不一样 t==xx 改为 |t-xx|<=eps 此帖于 2010-11-01 20:46 被 ahjxhly 编辑。 |
|
|
|
|
2010-11-02, 17:27
|
#3 |
|
初级会员
注册日期: 2008-02-27
年龄: 38
帖子: 27
声望力: 18 |
回复: 很诡异的一段非常简单的代码，高手请进！
楼上正解，这个太重要了，编程中需要重视
|
|
|
|
|
2010-11-02, 21:17
|
#4 | |
|
初级会员
注册日期: 2010-10-05
年龄: 37
帖子: 3
声望力: 0 |
回复: 很诡异的一段非常简单的代码，高手请进！
引用:
|
|
|
|
|
混合模式
