计算数学中浮点格式异常问题的深入剖析  

A analyse on abnormity of floating point formats in computational mathematics

作　　者：汪建[1] 方洪鹰[2] 

机构地区：[1]重庆邮电学院计算机科学与技术学院,重庆400065 [2]重庆交通学院应用数学研究所,重庆400074

出　　处：《重庆交通学院学报》2005年第2期141-143,共3页Journal of Chongqing Jiaotong University

摘　　要：对计算数学中使用Matlab+C进行高精度科学计算时常见的浮点格式操作出错问题进行了全面详细的阐述,内容覆盖了所有涉及该问题的主流C语言系统,为今后在实际应用中解决同类问题提供了重要的参考意义.This document explains why you might be getting the error of 'FLOATING POINT FORMATS' and tells you how to resolve it, when you use Matlab +C. The problems and solutions below apply to ALL versions of ANSI C, Turbo C^(++), Borland C^(++) and Visual C^(++), except where noted.

关 键 词：浮点数 高精度计算 C^++语言 

分 类 号：TP312[自动化与计算机技术—计算机软件与理论]