| Labfans是一个针对大学生、工程师和科研工作者的技术社区。 | 论坛首页 | 联系我们(Contact Us) |
 |
| Labfans是一个针对大学生、工程师和科研工作者的技术社区。 | 论坛首页 | 联系我们(Contact Us) |
|
2008-11-19, 16:11
|
#1 |
|
初级会员
注册日期: 2008-11-19
年龄: 46
帖子: 2
声望力: 0  |
[讨论]一个关于 fix 奇怪的问题
t = 0:0.01:0.1； %t(7) = 0.06
fix(t(7)/0.06)*0.06 - t(7) % 应该是零 可是结果却是 -6.9389e-018 t(7)= 0.06 % 给t(7)重新赋值 fix(t(7)/0.06)*0.06 - t(7) % 结果是零 :ft: |
|
|
|
2008-11-20, 09:20
|
#2 |
|
高级会员
注册日期: 2008-10-21
年龄: 40
帖子: 198
声望力: 23 |
回复: [讨论]一个关于 fix 奇怪的问题
计算机的浮点运算难免有误差！！！！！
-18次基本可以认为是0 了！！！！！！
__________________
matlab太高深了！！！！！！！:ft: |
|
|
|
|
2008-11-20, 10:55
|
#3 |
|
初级会员
注册日期: 2008-11-19
年龄: 46
帖子: 2
声望力: 0 |
回复: [讨论]一个关于 fix 奇怪的问题
开始我也没觉得有什么，可是我当初写的是一个循环中的判断语句
for i = 1:size(t,2) if fix(t(1)/0.06)*0.06 - t(1) == 0 …… 结果怎么都不对，后来发现这个问题。用mod不会出问题 :sweat: 可能的原因不仅仅是在 fix 函数，可能与 t 的赋值有关系 |
|
|
|
|
2008-11-20, 13:47
|
#4 |
|
高级会员
注册日期: 2008-10-21
年龄: 40
帖子: 198
声望力: 23 |
回复: [讨论]一个关于 fix 奇怪的问题
也许吧！！！！！！！！！
__________________
matlab太高深了！！！！！！！:ft: |
|
|
|
 |
| 主题工具 | |
| 显示模式 | |
|
|
相似的主题
|
||||
| 主题 | 主题作者 | 版面 | 回复 | 最后发表 |
| [分享]给大家传一个图像空间变换和直方图变换的数学推导 | johnny8088 | MATLAB论坛 | 0 | 2009-01-31 03:26 |
| [求助]关于三维画图的问题 | duckliton | MATLAB论坛 | 6 | 2008-12-15 18:55 |
| Studying the World's Most Complex Dynamic Systems | TechnicalArticles | MATLAB技术文章 | 0 | 2008-08-29 00:40 |
| [求助]在SIMULINK里，如何将inegrator上方的箭头移到下面去 | yijianmei | MATLAB论坛 | 1 | 2008-07-24 10:15 |
| Simplify Instrument Communication: Using Instrument Drivers with the Instrument Contr | TechnicalArticles | MATLAB技术文章 | 0 | 2008-01-06 16:32 |
平板模式
