单精度

作品数：51被引量：70H指数：5
导出分析报告
相关领域：自动化与计算机技术更多>>
相关作者：沈海斌魏星刘衡竹李国兵张国梅更多>>
相关机构：中国科学院国防科学技术大学浙江大学中国科学技术大学更多>>
相关期刊：《计算机技术与发展》《科技资讯》《矿山测量》《计算机与数字工程》更多>>
相关基金：国家自然科学基金国家科技重大专项国家教育部博士点基金北京市重点实验室开放基金更多>>
-
在结果中检索

检索结果分析

结果分析中...
共 条 记 录，以下是1-10
全选清除导出
参考文献引证文献引用追踪
视图：
排序：
基于层次级联算法的声表面波传感器快速精确仿真
《包装工程》2024年第17期156-161,共6页孔超 石义典 范彦平 
国家自然科学基金(51705326,52075339)。
目的针对层次级联技术(HCT)在全指型声表面波(SAW)器件仿真中耗时较长的问题,以及使用无限元域(ILDB)边界条件时仿真容易出现数值不稳定从而带来误差的问题,需要采用有效的数值处理方法使仿真结果高效、准确。方法通过对基本单元的有限...
关键词：声表面波 层次级联 平衡预处理 无限元域 单精度 
针对SW26010众核处理器的单精度矩阵乘算法
《小型微型计算机系统》2023年第4期673-681,共9页武铮 许乐 安虹 金旭 文可 
国家重点研究开发项目(2018YFB0204102)资助。
矩阵乘作为许多科学应用中被频繁使用的关键部分,其计算量巨大且稠密的本质,使得高性能计算领域中矩阵乘并行算法的研究一直是经久不衰的热门话题.随着我国自主研发的申威众核处理器SW26010在科学计算和人工智能领域的快速发展,对面向SW...
关键词：众核处理器 矩阵乘 计算机系统结构 高性能计算 并行算法 
基于图形处理单元与密度拟合近似的单精度耦合簇CCSD和CCSD(T)程序被引量：1
《化学学报》2022年第10期1401-1409,共9页王治钒 何冰 路艳朝 王繁 
四川省自然科学基金(No.2022NSFSC1262);国家自然科学基金(Nos.21973063,21703020);成都师范学院人才引进项目(No.2021YJRC202020)资助。
作者此前工作表明,在耦合簇CCSD (Coupled-Cluster approaches within the singles and doubles approximation)与CCSD(T)(CCSD approaches augmented by a perturbative treatment of triple excitations)计算中结合单精度数与消费型...
关键词：耦合簇 密度拟合 图形处理单元(GPU) 单精度 
燧原科技首发国内第二代人工智能训练芯片“邃思2.0
《世界电子元器件》2021年第7期36-37,共2页
燧原科技昨天发布第二代人工智能训练产品——"邃思2.0"芯片、基于邃思2.0的"云燧T20"训练加速卡和"云燧T21"训练OAM模组,全面升级的"驭算TopsRider"软件平台以及全新的"云燧集群",成为国内首家发布第二代人工智能训练产品组合的公司。...
关键词：人工智能 第二代 单精度 
一种模式可配置的单精度浮点乘法器设计被引量：2
《西安邮电大学学报》2020年第6期63-66,81,共5页蒋林 田璞 邓军勇 
国家自然科学基金项目(61772417,61602377,61634004);陕西省科技统筹创新工程项目(2016KTZDGY02-04-02);陕西省重点研发计划项目(2017GY-060)。
提出了一种模式可配置的单精度浮点乘法器设计方案。利用90 nm互补金属氧化物半导体(complementary metal oxide semiconductor,CMOS)工艺设计了基于原码一位乘法、基4-Booth算法和Wallace树型算法等3种常用定点数乘法的浮点乘法器,测试...
关键词：单精度 浮点乘法器 可配置 逻辑综合 
ST STM32WB55 Zigbee 3.0无线微控制器开发方案
《世界电子元器件》2020年第8期37-45,共9页
ST公司的stm32WB55xx系列和STM32WB35xx系列是多协议和超低功耗32位MCU,嵌入了功能强大和与Bluetooth®低功耗SIG指标v5.0和IEEE 802.15.4-2011兼容的超低功耗无线电.器件还包含了专门用途的Arm®Cortex®-M0+核,用来进行所有实时低层操作...
关键词：超低功耗 单精度 32位MCU 无线微控制器 数据处理 
N体问题直接法的众核实现研究
《保山学院学报》2020年第2期29-37,共9页李忠武 明道洋 魏再超 
2019年云南省教育厅科学研究基金项目(项目编号:2019J0340);云南省2018年高校本科教育教学改革研究项目(项目编号:JG2018226);保山学院教学质量与教学改革工程项目(项目编号:ZXZ201802)。
展示了一个Intel众核处理架构上优化的N体内核代码,该优化版本在传统处理器上也获得了性能提升;探讨如何快速为优化过程确定一个目标,最终的优化版本达到了峰值上界的89%,因此这是一个较为合理的终点;还展示了在Intel Xeon Phi协处理器...
关键词：N体内核 粒子 单精度 双精度 
ST STM32L562QE超低功耗32位ARM MCU开发方案
《世界电子元器件》2020年第3期48-48,50-55,共7页
ST公司的stm32L562QE是超低功耗微控制器,基于高性能Arm?Cortex?-M33 32位RISC核,工作频率高达110MHz. Cortex?-M33核具有单精度浮点单元(FPU),支持所有的Arm?单精度数据处理指令和所有的数据类型.Cortex?-M33核还能实现全套的DSP指令...
关键词：高速存储器 超低功耗 数据类型 数据处理 单精度 闪存 微控制器 MCU 
面向人工智能的浮点乘加器设计
《计算机技术与发展》2019年第8期96-101,共6页陈正博 吴铁彬 郑方 丁亚军 
国家重点研发计划项目(2016YFB0200501)
近年来,面向人工智能领域的芯片快速发展,低精度和混合精度的乘加运算能力是人工智能芯片计算能力的核心指标,同时乘加部件也是人工智能芯片功率的主要消费者。面向人工智能领域应用需求,研究高性能、低能耗、低开销的浮点乘加器,对人...
关键词：人工智能 浮点乘加器 单精度 半精度 单半混合精度 
高效单精度浮点三角函数计算电路结构与实现被引量：6
《微电子学与计算机》2018年第12期33-37,共5页李天立 尹韬 魏星 杨海钢 
国家自然科学基金(61474120;61404140;61704173);北京市科技重大专项课题(Z171100000117019);北京工商大学北京市重点实验室开放课题基金(BKBD-2017KF05)
针对基于浮点加法器的CORDIC(Coordinate Rotation Digital Calculation,坐标旋转数字计算)实现单精度浮点型三角函数的角度收敛范围受限、处理速度低、电路开销大、响应延时长等问题,通过将浮点运算转化为定点运算以及对无缩放因子COR...
关键词：无缩放因子CORDIC算法 单精度浮点型 三角函数 FPGA 
全选清除导出
共6页<123456>
检索报告 对象比较 聚类工具 使用帮助 返回顶部