数值计算
§2.1 浮点数与舍入误差
Matlab:IEEE标准的双精度二进制数(用64位存储一 : 的双精度二进制数( 位存储一 个数) 个数)(since 1985) ) 尾数符号 尾数 阶码(包括符号) 阶码(包括符号) 11
1 52 IEEE双精度二进制数 双精度二进制数: 双精度二进制数
x = ±(1 + f ) × 2e其中,尾数f是满足
0 ≤ f < 1 的二进制小数 ; 52 52f是正整数且满足0 ≤ 2 f < 252 即2
指数e满足
1022 ≤ e < 1023
数值计算
§2.1 浮点数与舍入误差
Matlab:IEEE标准的双精度二进制数(用64位存储一 : 的双精度二进制数( 位存储一 个数) 个数)(since 1985) ) 尾数符号 尾数 阶码(包括符号) 阶码(包括符号) 11
1 52 IEEE双精度二进制数 双精度二进制数: 双精度二进制数
x = ±(1 + f ) × 2e其中,尾数f是满足
0 ≤ f < 1 的二进制小数 ; 52 52f是正整数且满足0 ≤ 2 f < 252 即2
指数e满足
1022 ≤ e < 1023
下一篇:爆破施工工艺流程图