定点数

作品数：60被引量：42H指数：3
导出分析报告
相关领域：自动化与计算机技术电子电信更多>>
相关作者：闫石林解玉凤陈雪梅潘红兵赵耿更多>>
相关机构：上海寒武纪信息科技有限公司畅想科技有限公司清华大学深圳市腾讯计算机系统有限公司更多>>
相关期刊：更多>>
相关基金：国家自然科学基金西安市科技计划项目湖南省自然科学基金国家高技术研究发展计划更多>>
-
在结果中检索

检索结果分析

结果分析中...
选择条件：
  • 期刊=电子技术应用x
共 条 记 录，以下是1-2
全选清除导出
参考文献引证文献引用追踪
视图：
排序：
牛顿迭代公式在定点数开立方中的运用被引量：1
《电子技术应用》2010年第4期51-53,57,共4页王科人 张兴明 杨镇西 
国家863计划重点项目(No.2008AA011002)
分析了牛顿迭代算法直接用于开立方的缺点,针对常见的32 bit定点数,提出一种变形的牛顿迭代法与查表法相结合的开立方算法,并进行了相应的软硬件仿真。结果表明,该算法误差精确到整数位,满足定点数开立方要求,占用资源合理,时延性能优...
关键词：立方根 牛顿迭代 查表法 
浮点数与定点数的相互转换程序被引量：1
《电子技术应用》1993年第4期39-40,共2页赵春 
1.浮点数与定点数的内在联系如果约定在二进制代码的某个确定的位置有一个小数点,这样表示的数称为定点数。例如:(0010.1011)_2=(2~1+2^(-1)+2^(-3)+2^(-4))_(10)=2(11/16)定点数运算的软件设计,在计算量较大的场合存在明显缺陷。一是...
关键词：浮点数 定点数 互换程序 
全选清除导出
共1页<1>
检索报告 对象比较 聚类工具 使用帮助 返回顶部