IEEETII一种可解释的增量随机权重神经网络构造算法及其应用
本文旨在为增量随机权重神经网络(IRWNN)提供一种可解释的学习范式。IRWNNs因其易于部署和快速学习速度而成为神经网络算法的热门研究方向。然而,现有的IRWNN难以解释隐藏节点(参数)如何影响网络残差的收敛。为了解决这一差距,本文提出了一种可解释的构造算法(lCA)。具体来说,我们首先对网络构建过程进行空间几何分析,建立网络残差和隐藏参数之间的空间几何关系,以可视化隐藏参数对网络残差收敛的影响。其次,基于空间几何关系和节点池策略,建立了一种具有空间几何信息的可解释控制策略,以获得有助于网络残差收敛的隐藏参数。此外,为了便于lCA处理大数据的复杂任务,本文提出了一种低复杂度的轻量级ICA,即ICA+。最后,从理论上证明了本文提出的ICA和ICA+具有普遍的逼近性质。在两个真实世界数据集和七个基准数据集上的实验结果表明,所提出的ICA和ICA+在快速学习、良好泛化和网络结构紧凑性方面具有优势。关键词:数据建模、可解释构造算法、神经网络(NN)、随机算法、空间几何信息。