Ch2 数值计算的基本概念(5)

2020-11-29 00:47

数值计算

§2.1 浮点数与舍入误差

Matlab:IEEE标准的双精度二进制数(用64位存储一 : 的双精度二进制数( 位存储一 个数) 个数)(since 1985) ) 尾数符号 尾数 阶码(包括符号) 阶码(包括符号) 11

1 52 IEEE双精度二进制数 双精度二进制数: 双精度二进制数

x = ±(1 + f ) × 2e其中,尾数f是满足

0 ≤ f < 1 的二进制小数 ; 52 52f是正整数且满足0 ≤ 2 f < 252 即2

指数e满足

1022 ≤ e < 1023


Ch2 数值计算的基本概念(5).doc 将本文的Word文档下载到电脑 下载失败或者文档不完整,请联系客服人员解决!

下一篇:爆破施工工艺流程图

相关阅读
本类排行
× 注册会员免费下载(下载后可以自由复制和排版)

马上注册会员

注:下载文档有可能“只有目录或者内容不全”等情况,请下载之前注意辨别,如果您已付费且无法下载或内容有问题,请联系我们协助你处理。
微信: QQ: