外推系数带参数的加速邻近梯度算法  

ON ACCELERATED PROXIMAL GRADIENT ALGORITHMS WITH PARAMETERS IN EXTRAPOLATION COEFFICIENTS

作　　者：刘紫娟[1] 李慧云[2] 刘新为[1] 

机构地区：[1]河北工业大学理学院,天津300401 [2]河北工业大学控制科学与工程学院,天津300401

出　　处：《数值计算与计算机应用》2016年第3期211-222,共12页Journal on Numerical Methods and Computer Applications

基　　金：国家自然科学基金(10971047;11271107);河北省自然科学基金(A2015202365)资助项目

摘　　要：加速邻近梯度算法(APG)是求解极小化光滑与非光滑凸函数和问题的一种非常有效的一阶方法.注意到外推系数选取的好坏与算法的数值表现息息相关.本文考虑了算法中外推系数的更一般形式,提出了一类外推系数带参数的加速邻近梯度算法,证明了该算法在一定的条件下具有和快速迭代收缩阈值算法(FISTA)相同的全局收敛速率.数值试验表明,适当地选取外推系数的参数会使新算法产生的误差值小于FISTA产生的误差值,从而得到更清晰的图像.数值试验同时给出了外推系数中参数的变化对图像去模糊的影响.Accelerated proximal gradient algorithms（APG） are very effective methods for mini- mizing the sum of a Lipschitz differentiable convex function and a continuous and possibly nonsmooth convex function. Notice that the numerical performances of the algorithms close- ly depend on how to select the extrapolation coefficients. In this article, we consider a general form of extrapolation coefficients, propose a class of accelerated proximal gradient algorithms with parameters in extrapolation coefficients, and prove that under certain conditions, the algorithms have the same global convergence rate with fast iterative shrinkage-thresholding

关 键 词：加速邻近梯度算法 快速迭代收缩阈值算法 l1-正则化 全局收敛速率 外推方法 

分 类 号：O224[理学—运筹学与控制论]