Ch2 数值计算的基本概念(16)

2020-11-29 00:47

数值计算

双精度二进制数系的标志数】 【IEEE双精度二进制数系的标志数】 双精度二进制数系的标志数Number eps realmin Binary 2^(-52) 2^(-1022) Decimal 2.2204e-016 2.2251e-308

realmax (2-eps)^1023 1.7977e+308 _________________________________________________ 若计算值 x >realmax 则发生上溢; 则发生上溢; 上溢 则发生下溢 下溢; 若计算值 x< realmin 则发生下溢;


Ch2 数值计算的基本概念(16).doc 将本文的Word文档下载到电脑 下载失败或者文档不完整,请联系客服人员解决!

下一篇:爆破施工工艺流程图

相关阅读
本类排行
× 注册会员免费下载(下载后可以自由复制和排版)

马上注册会员

注:下载文档有可能“只有目录或者内容不全”等情况,请下载之前注意辨别,如果您已付费且无法下载或内容有问题,请联系我们协助你处理。
微信: QQ: