浮点数存储精度丢失问题——由学生提问所引发的思考  

作　　者：李伟[1] 余森[1] 门佳[1] 

机构地区：[1]河南工业职业技术学院计算机工程系,河南南阳473000

出　　处：《濮阳职业技术学院学报》2015年第3期151-153,共3页Journal of Puyang Vocational and Technical College

摘　　要：浮点数在计算机中的存储形式一直是计算机程序设计课程的难点,其存储精度的丢失往往会影响到程序的准确性和可靠性。从一道关于浮点数运算的学生提问入手,总结浮点数教学过程中的一些难点问题,包括浮点数在计算机中存储的格式、误差、范围、精度等,从各个方面进行了系统深入的分析,力求给出一个清晰的描述。

关 键 词：浮点数 存储误差 有效数字 

分 类 号：TP333[自动化与计算机技术—计算机系统结构]