平方根倒数速算法的精度优化  被引量:2

Accuracy optimizing for fast inverse square root algorithm

在线阅读下载全文

作  者:周泉[1] 杨靓[1] 何卫强[1] ZHOU Quan;YANG Liang;HE Wei-qiang(Xi′an Microelectronics Technology Institute,Xi′an 710065,China)

机构地区:[1]西安微电子技术研究所,陕西西安710065

出  处:《微电子学与计算机》2019年第5期64-69,共6页Microelectronics & Computer

摘  要:平方根倒数速算法是计算机数值计算中的一种常用方法.文中在对平方根倒数速算法的原理进行分析的基础上,提出一个新的算法常数来提升计算结果的统计精度.实验结果表明,本文提供的算法常数相比于原有的算法常数能将批量数据处理的平均精度提升大约30%~40%,而针对单个数据的计算,本文方法的意义在于能从一个更大的概率(平均约77%)上获得比原有方法更加精确的结果.The fast inverse square root algorithm is a common method in computer numerical calculation.Based on the principle analysis of the fast inverse square root algorithm,a new algorithm constant is proposed to improve the statistical accuracy of the calculation results.The experimental results show that the algorithm constant provided by this paper can increase the average precision of batch data processing by about 30%~40%compared with the original algorithm constant.For the calculation of single data,the significance of the method in this paper is to obtain a more accurate result than the original method on a larger probability(average of about 77%).

关 键 词:平方根倒数 0x5f3759df 0x5f34ff59 卡马克常数 精度优化 

分 类 号:TP301.6[自动化与计算机技术—计算机系统结构]

 

参考文献:

正在载入数据...

 

二级参考文献:

正在载入数据...

 

耦合文献:

正在载入数据...

 

引证文献:

正在载入数据...

 

二级引证文献:

正在载入数据...

 

同被引文献:

正在载入数据...

 

相关期刊文献:

正在载入数据...

相关的主题
相关的作者对象
相关的机构对象