Ch2 数值计算的基本概念(15)

数值计算

【具有有限精度的浮点数在数值计算中的问题】(舍 具有有限精度的浮点数在数值计算中的问题】 舍入误差的影响) 入误差的影响

例2.3 用Matlab进行简单算术计算 进行简单算术计算 计算结果: 计算结果 !! format long x=4/3-1 y=3*x z=1-y z= 2.220446049250313e-016 y= 1.00000000000000 x= 0.33333333333333