收敛速率

作品数:179被引量:415H指数:10
导出分析报告
相关领域:理学自动化与计算机技术更多>>
相关作者:汤京永董丽陶卿何炳生初元红更多>>
相关机构:长沙理工大学中国人民解放军陆军炮兵防空兵学院信阳师范学院上海交通大学更多>>
相关期刊:更多>>
相关基金:国家自然科学基金山东省自然科学基金安徽省自然科学基金国家重点基础研究发展计划更多>>
-

检索结果分析

结果分析中...
条 记 录,以下是1-10
视图:
排序:
基于随机采样的方差缩减优化算法
《计算机科学与探索》2025年第3期667-681,共15页郭振华 闫瑞栋 邱志勇 赵雅倩 李仁刚 
新一代人工智能国家科技重大专项(2021ZD0113001)。
随机梯度下降(SGD)算法因其性能优异而引起了机器学习和深度学习等领域研究人员的广泛关注。然而,SGD使用单样本随机梯度近似样本全梯度导致算法在迭代过程中引入了额外的方差,使得算法的收敛曲线震荡甚至发散,导致其收敛速率缓慢。因此...
关键词:随机梯度下降 方差缩减 凸优化 非凸优化 收敛速率 
用集中不等式证明精度矩阵的收敛速率
《兰州文理学院学报(自然科学版)》2024年第6期24-30,共7页胡芳婷 
在神经连接模式和社会网络分析等环境中,估计精度矩阵是一个很重要问题.在高维条件下,基于固定维数的经典方法和结果不再适用,稳定准确地估计精度矩阵问题变得尤为重要.为了估计高维精度矩阵,采用了自适应约束l_1范数最小化的精度矩阵...
关键词:精度矩阵 集中不等式 收敛速率 
三维Keller-Segel-Stokes系统的快速信号扩散极限的收敛速率
《数学物理学报(A辑)》2024年第4期925-945,共21页喻婷 冬英 
四川省自然科学基金(2022NSFSC1835)。
该文通过对三维抛物-抛物型Keller-Segel-Stokes系统进行合适的能量迭代估计,证明了当初始细胞质量很小时,初边值问题的解在快速信号扩散极限过程中以代数速率收敛到相应的抛物-椭圆型Keller-Segel-Stokes系统.
关键词:Keller-Segel-Stokes 快速信号扩散极限 衰减估计 收敛速率 
加速随机递归梯度下降算法的复杂度分析
《萍乡学院学报》2024年第3期5-11,共7页费经泰 程一元 查星星 
安徽省高校自然科学研究项目“分布式机器学习的算法设计与理论研究”(KJ2021A1033);巢湖学院校级科研项目“大数据背景下高效分布式计算的应用研究”(XLZ-202202);“加速随机方差缩减梯度下降算法研究”(XLY-202105)。
课题组为进一步降低传统随机递归梯度下降算法(SARAH)复杂度,利用内循环数目倍增技术,提出了一种新的算法--Epoch-Doubling-SARAH算法,并通过构造Lyapunov函数证明了Epoch-Doubling-SARAH算法在非强凸条件下具有线性收敛阶,且推导出了...
关键词:机器学习 随机递归梯度 下降算法 循环倍增 收敛速率 算法复杂度 
一类加速ADMM算法在投资组合选择中的应用研究
《应用数学进展》2024年第3期1176-1186,共11页胡同 
Mean-Variance模型为现代投资组合选取奠定了基础。 近年来,随着金融资产数量的提高,求 解M-V模型的经典算法效率逐渐变低。 因此,有关学者提出了资产分割的ADMM算法(AS- ADMM)以提升ADMM 算法的效率。 该算法能够比经典的算法更高效,...
关键词:加速ADMM 非遍历收敛速率 M-V模型 
一种基于条件梯度的加速分布式在线学习算法
《自动化学报》2024年第2期386-402,共17页吴庆涛 朱军龙 葛泉波 张明川 
国家自然科学基金(62033010,61871430,61976243);中原科技创新领军人才(214200510012,224200510004)资助。
由于容易实施,基于投影梯度的分布式在线优化模型逐渐成为一种主流的在线学习方法.然而,在处理大数据应用时,投影步骤成为该方法的计算瓶颈.近年来,研究者提出了面向凸代价函数的分布式在线条件梯度算法,其悔界为O(T^(3/4)),其中T是一...
关键词:条件梯度 分布式在线学习 悔界 收敛速率 
分布式训练系统及其优化算法综述被引量:8
《计算机学报》2024年第1期1-28,共28页王恩东 闫瑞栋 郭振华 赵雅倩 
山东省自然科学基金项目(ZR2021QF073)资助。
人工智能利用各种优化技术从海量训练样本中学习关键特征或知识以提高解的质量,这对训练方法提出了更高要求.然而,传统单机训练无法满足存储与计算性能等方面的需求.因此,利用多个计算节点协同的分布式训练系统成为热点研究方向之一.本...
关键词:分布式训练系统 (去)中心化架构 中心化架构算法 (异)同步算法 并行随机梯度下降 收敛速率 
基于AdaGrad自适应DA方法的最优个体收敛速率
《兵工自动化》2023年第11期49-55,共7页张旭 韦洪旭 
国家自然科学基金(62076252)。
针对AdaGrad将自适应矩阵应用到随机梯度下降法中降低工程上超参数搜索的问题,提出一种自适应对偶平均方法。将AdaGrad自适应矩阵引入到对偶平均方法框架中,形成自适应的对偶平均方法,并通过凸优化实验验证其可行性和收敛效果。数学推...
关键词:优化算法 梯度下降 对偶平均方法 AdaGrad 自适应矩阵 
基于AdaGrad+的自适应Heavy-Ball动量法及其最优个体收敛性
《计算机科学》2023年第11期220-226,共7页韦洪旭 陇盛 陶蔚 陶卿 
自适应策略与动量法是提升优化算法性能的常用方法。目前自适应梯度方法大多采用AdaGrad型策略,但该策略在约束优化中效果不佳,为此,研究人员提出了更适用于处理约束问题的AdaGrad+方法,但其与SGD一样在非光滑凸情形下未达到最优个体收...
关键词:凸优化 自适应策略 AdaGrad+ Heavy-Ball动量方法 收敛速率 
二维Keller-Segel-Stokes系统的稳定性分析被引量:2
《内江师范学院学报》2023年第6期44-49,共6页徐艳 
重庆市科技局面上项目(sctc2020jcyj-msxmX0560)。
在一个具有光滑边界的有界区域Ω■R^(2)中,研究一类不可压缩的Keller-Segel-Stokes方程组的齐次Neumann-Neumann-Dirichlet初边值问题时,其经典解的全局存在性和有界性已经在初值n_(0)的适当小性条件下建立.在此基础上进一步研究了该...
关键词:趋化 Keller-Segel-Stokes系统 渐进行为 收敛速率 
检索报告 对象比较 聚类工具 使用帮助 返回顶部