一种混合深度网络的抗噪性能研究  

A Research on Anti-noise Performance of Hybrid Deep Network

作　　者：王璟尧 刘云海[1,2] 

机构地区：[1]浙江大学信息与通信工程研究所,杭州310027 [2]浙江省综合信息网技术重点实验室,杭州310027

出　　处：《计算机工程》2015年第11期213-217,共5页Computer Engineering

摘　　要：实际图像识别场景中样本易受噪声的影响,且大量训练样本的获取比较困难。针对上述问题,提出一种基于混合结构的深度学习网络。选择合适稀疏限制算法运用到自动编码器中,将其构造在混合结构的深度学习网络的底层和高层,解决一般自动编码器无法有效降低背景噪声影响的问题。在深度学习网络的中间层插入改进的无向高斯伯努利受限玻尔兹曼机,进行无监督学习得到低层输出的抽象表示。混合结构的深度学习网络利用最高的回归层进行有监督的微调和分类。实验结果表明,与传统的浅层算法和经典深度学习网络相比,该混合结构的深度网络在大、小样本量的训练下均具有较好的抗噪能力。Hybrid structure of deep network which achieves low classification error rate when meeting noisy and limited training data is presented since many real world pictures are under noise. Proper sparse regularization algorithm is applied to auto-encoders,which are set on the lower and higher layers and can distinguish background noise more effectively. Middle layer is proposed on the basis of the undirected Gaussian-Bernoulli Restricted Boltzmann Machine（GRBM） to a better abstract representation. Hybrid structure of deep network uses a regression layer on the top for fine-tuning and classification. Experimental results show that hybrid structure of deep network can achieve better performance under noisy background regardless of number of training samples.

关 键 词：混合结构 深度网络 噪声 稀疏限制 小样本量 

分 类 号：TP18[自动化与计算机技术—控制理论与控制工程]