![]() |
[求助]数字有效位数该如何改变?
比如a=1.2100001
而我希望b由a取小数点后两位得到,即b=1.21 我该如何做呢? |
回复: [求助]数字有效位数该如何改变?
前几天也碰到这个问题,好像有个命令可以设置任意的小数位数
回去帮你看看 |
回复: [求助]数字有效位数该如何改变?
用help查看一下format命令,可以设定特定的位数,但好像没有两位的。
|
回复: [求助]数字有效位数该如何改变?
数据的显示有很多的方法:
1、使用数据格式 (以pi 的取值为例) format 默认格式 3.1416 format short 只显示5位 3.1416 format long 双精度15位,单精度7位 3.14159265358979 format short e 科学记数方式的短格式 3.1416e+000 format long e 科学记数方式的长格式 3.141592653589793e+000 format short g 短格式g方式 3.1416 format long g 长格式g方式 3.14159265358979 format compact 压缩格式(紧凑格式) format loose 自由格式(宽松格式) 2、在输出的时候调用输出命令 dip 和 fprintf 这个时候可以使用“ %m.nf ”,其中m和n是整数,m表示显示的位数,n表示精确到的小数点。 比如 %5.2f 表示显示5位数字,但是只精确到小数点后2位,计算机内存储5位,但是显示出来只有2位小数。 |
回复: [求助]数字有效位数该如何改变?
:lovely: 谢谢回答啊。
|
回复: [求助]数字有效位数该如何改变?
用digits和vpa
设置有效数字的个数 |
所有时间均为北京时间。现在的时间是 04:26。 |
Powered by vBulletin
版权所有 ©2000 - 2025,Jelsoft Enterprises Ltd.