最详细循环神经网络讲解 循环神经网络原理( 九 )


结论
在本文中,我们使用非平衡统计动力学的非线性响应理论作为起点,解决了关于一类随机循环神经网络 (SRNN) 的两个基本问题,这些网络可以是人工或生物网络的模型 。特别地,我们能够以系统的、逐级的方式来描述 SRNN 对扰动的确定性输入信号的响应,为这些 SRNN 的输出函数推导出两种类型的序列表示,以及在驱动输入信号方面的深度变体 。这提供了对由这些驱动网络所引起的记忆和无记忆表示的性质的探究 。此外,通过将这些表示与路径特征的概念联系起来,我们发现响应特征集是 SRNN 在处理输入信号时从中提取信息的构建块,揭示了 SRNN 运行的普遍机制 。特别地,我们通过表示定理表明,SRNN 可以被看作是在与响应特征相关的再生核希尔伯特空间上运行的核机器 。
从数学的角度来看,放宽这里的假设,并在驱动输入信号是粗略路径的一般设置中工作会很有趣,输入信号的规律性可能会发挥重要作用 。人们还可以通过采用此处开发的技术来研究 SRNN 如何响应输入信号和噪声驱动(正则化)中的扰动 。到目前为止,我们一直专注于介绍中提到的“公式化优先”方法 。这里获得的结果表明,可以通过设计有效的算法来利用离散化响应特征和相关特征在涉及时间数据的机器学习任务中的使用,来研究”离散化的下一步”,例如在科学与工程中预测由复杂动力系统产生的时间序列 。


以上关于本文的内容,仅作参考!温馨提示:如遇健康、疾病相关的问题,请您及时就医或请专业人士给予相关指导!

「四川龙网」www.sichuanlong.com小编还为您精选了以下内容,希望对您有所帮助: