L1正则化与pinball损失函数的极限学习机  

作　　者：陈聪 CHEN Cong

机构地区：[1]西安石油大学计算机学院,陕西西安710065

出　　处：《信息技术与信息化》2023年第3期37-40,共4页Information Technology and Informatization

摘　　要：极限学习机(extreme learning machine, ELM)由于其训练速度快、易于实现等优点,在回归领域得到了广泛的应用。然而,传统ELM的平方损失函数在异常值面前放大了异常值的影响,从而降低了性能。为了提高ELM的鲁棒性,在ELM中引入pinball损失函数。pinball损失函数与误差线性相关,与平方损失函数相比,可以减少异常值的影响。此外,L2范数正则化对于隐藏层节点缺乏稀疏性。相比之下,L1范数正则化可以改善模型的稀疏性。为了同时具有鲁棒性和稀疏性,提出了一种基于L1范数正则化和pinball损失函数的ELM模型,通过迭代重加权算法求解相应的优化问题。为了验证模型的鲁棒性和稀疏性,在6个真实数据集上进行实验。实验结果表明,提出的L1-PELM优于其他方法。特别是对于异常值比率较大的数据,L1-PELM不仅对异常值不敏感,而且保持了稀疏性。

关 键 词：极限学习机 L1正则化 pinball损失函数 迭代重加权 鲁棒性 稀疏性 

分 类 号：TP181[自动化与计算机技术—控制理论与控制工程]