| Labfans是一个针对大学生、工程师和科研工作者的技术社区。 | 论坛首页 | 联系我们(Contact Us) |
 |
| Labfans是一个针对大学生、工程师和科研工作者的技术社区。 | 论坛首页 | 联系我们(Contact Us) |
|
|
|
2007-05-20, 15:11
|
#1 |
|
初级会员
注册日期: 2007-05-20
帖子: 11
声望力: 19  |
是不是这个问题太简单了？
大家都不愿意回答？？？ |
|
|
|
2007-05-20, 15:34
|
#2 |
|
普通会员
注册日期: 2007-05-18
年龄: 38
帖子: 77
声望力: 20 |
修改输出格式
>> format bank >> cos(pi/2) ans = 0.00 原来的值 ans = 6.1232e-017 也没错的
__________________
吾幼学文,10年不就,怒,遂习武,校场骑射,中鼓吏,乃逐,闭门研医良久,自攥一良方，服之,卒!!! |
|
|
|
|
2007-05-20, 16:11
|
#3 |
|
初级会员
注册日期: 2007-05-20
帖子: 11
声望力: 19 |
谢谢！
我本来有一个变量a，a是要输入的量，如果输入a=pi/2，当format bank后，则cos(pi/2)=0了，但是当a为别的值时，会不会影响结果的精度呢??? |
|
|
|
|
2007-05-20, 16:25
|
#4 |
|
初级会员
注册日期: 2007-05-20
帖子: 11
声望力: 19 |
是不是format只会影响显示的精度，而实际的计算它仍采用内部的精度，计算后再用采用的精度显示？？？
我好像觉得是这个样子的，不知道各位大虾有何高见？ |
|
|
|
|
2007-05-20, 20:50
|
#5 |
|
普通会员
注册日期: 2007-05-18
年龄: 38
帖子: 77
声望力: 20 |
嗯，他只影响输出精度
__________________
吾幼学文,10年不就,怒,遂习武,校场骑射,中鼓吏,乃逐,闭门研医良久,自攥一良方，服之,卒!!! |
|
|
|
混合模式
