数值计算
§2.1 浮点数与舍入误差计算机使用二进制数(称为浮点数 浮点数): 浮点数
x = ±.d1d 2 L d t × 2 s其中, di =0 or 1:尾数； s: 阶码 于是
L ≤ s ≤U(上溢与下溢)
2 L 1 ≤| x |≤ 2U (1 2 t )
Ch2 数值计算的基本概念(4)
2020-11-29 00:47
Ch2 数值计算的基本概念(4).doc
将本文的Word文档下载到电脑
下载失败或者文档不完整，请联系客服人员解决！