数值计算误差初步理解及简单分析  

Preliminary Understanding and Simple Analysis of Numerical Calculation Errors

作　　者：刘平[1] 吕海兵 张峰[1] 胡文礼 

机构地区：[1]湖北省基础地理信息中心,湖北武汉430071 [2]中南勘察设计院(湖北)有限责任公司,湖北武汉430071

出　　处：《地理空间信息》2011年第3期156-158,161,共4页Geospatial Information

摘　　要：介绍了数值计算中的误差类别,用数学表达式举例,说明了截断误差,根据IEEE754标准用数学表达式说明了舍入误差;并对截断误差与舍入误差进行了简单的分析;最后给出了数值计算中应注意的事项。This paper introduced the classification of numerical calculation errors,and used math expressions as examples to illustrate truncation error.According to IEEE754 criterion,this paper used math expressions to explain rounding error.Then this paper simply analyzed the truncation error and rounding error.At last,this paper pointed out attentions in the numerical calculation.

关 键 词：数值计算 计算误差 初步理解 简单分析 

分 类 号：O241[理学—计算数学]