↓↓↓文章末尾获取原文链接↓↓↓

本文1455字，阅读约需5分钟

摘要：提出了一种用于高效处理高维多尺度时间序列的HetAESN，并阐明了其有效性依赖于“输入维度”和“储层的有效记忆范围内的信号复杂性”的平衡，为根据现实世界的任务特点优化设计RC模型的架构提供了指导。

关键词：人工智能、“HetAESN”架构、高维、多尺度时间序列、时间异质性

研究背景

储层计算（Reservoir Computing，RC）是一种循环神经网络（RNN），由输入层、中间层（储层）和输出层组成。通过固定储层内部的连接权重并将学习限制在输出层的权重上，储层计算具有比传统深度学习更快、成本更低的特点。由于这种“高学习效率”以及易于在物理元件上安装的便利性，近年来，其作为一种应用技术，在计算资源有限的边缘人工智能领域引起了广泛关注。

然而，当尝试将作为RC代表性模型的回声状态网络（ESN）应用到图像、视频识别、天气预报等现实世界的复杂任务时，会面临两个障碍。其一是数据的“高维度”：为了处理大量传感器数据或图像数据等多维输入信息，需要扩展储层，但随之而来的问题是计算成本也会大幅增加。其二是“多尺度性”：现实世界的现象中，快速变化的快速成分与缓慢变化的慢速成分混合存在，传统的ESN试图以单一的时间响应特性来统一处理这些成分，无法充分捕捉复杂时间序列模式。

在现有研究中，人们提出了诸如将输入分割以适应高维度的Assembly ESN（AESN）以及引入多个时间常数以适应多尺度的Diverse-Timescale ESN（DTS-ESN）等方法，但尚未达到可以综合应对以上两种障碍的程度。尤其是，传统的AESN将所有子储层的时间特性统一设置，存在改善以适应多尺度数据的空间。

在此背景下，研究小组在AESN的架构中引入时间异质性（Heterogeneous）的概念，设计了一种每个子储层都根据输入信号特性具有单独调整的时间常数的HetAESN。

HetAESN架构的提出

HetAESN是一种扩展AESN结构并引入时间异质性的模型。高维输入信号被分割成不同的维度，并分别输入到相应的子储层中。在HetAESN中，诸如泄漏率(α)（决定每个子储层中神经元的更新速度）和谱半径(γ)（表示储层内相互作用的强度）等超参数会被独立优化。这种异质性设计使得每个子储层都能适应输入信号独特的时序特征，例如其快慢成分，并有效地跟踪这些输入信号。

预测性能的验证

研究小组验证了三种混沌时间序列系统的预测性能：双耦合范德波尔(tc-VdP)、Hindmarsh-Rose(HR)和双耦合洛伦兹(tc-Lorenz)。结果显示，在tc-VdP和HR任务中，HetAESN与传统的ESN、AESN相比，实现了明显更小的Log-NRMSE（预测误差的评估指标），表现出比传统模型更高的预测性能。特别是在HR模型中，高输入尺度值被分配给对应于快速信号成分的子储层，这表明该模型适应了任务的时空特征。

通过动态分析阐明原理

研究小组进行了动态分析，以阐明不同任务间性能差异背后的原因。

延迟容量（DC）分析表明，随着处理长期过去信息，储层的记忆能力有效性会降低，并且在τ≤43左右的时间点，记忆能力可能几乎不再起作用。

另一方面，在多尺度模糊熵（MFE）分析中，研究小组重点研究了储层的有效记忆时间（τ≤43），并评估了信号复杂性如何随之变化。

这些结果表明，具有相对较高维度（6维）的tc-Lorenz任务在储层的有效记忆时间域内具有较高复杂性。因此，在总储层大小固定的限制下，输入维度的划分导致各子储层的尺寸相对较小，由此得出结论，性能下降的主要原因是有限的表达能力无法处理高度复杂的信号。这项分析表明，“维度划分带来的结构优势”与“每个子储层的表达能力”之间存在权衡关系，这决定了该HetAESN的信号处理能力。

结论与未来展望

本研究提出了一种用于高效处理高维多尺度时间序列的HetAESN，并阐明了其有效性依赖于“输入维度”和“储层的有效记忆范围内的信号复杂性”的平衡。这一发现为根据现实世界的任务特点优化设计RC模型的架构提供了指导。

未来计划将HetAESN应用于高维多尺度实际任务（例如生物信号分析和物联网传感器数据）以及合成数据集，并验证其通用性。此外，为了克服tc-Lorenz结果所示的“表达能力不足”的局限性，将挑战引入一种新机制来提升表达能力。

https://www.nibb.ac.jp/press/2025/12/23.html

https://doi.org/10.1109/ACCESS.2025.3639721

（1）资讯定制

对于本文章中提到的技术，有海外相关技术信息（行业资讯、技术报告、专利信息等）扩展搜集需求的，欢迎留言区留言，或联系邮箱【info#aipatent.com（注明“资讯定制”） *发送邮件时请将“#”替换为“@”】了解详情。

（2）征稿启事

应部分读者建议，本公众号现开放投稿，面向企业及科研机构人员征集稿件，可以分享技术信息、学术类论文、科研成果以及研究见解等。

投稿请发送至邮箱：support#aipatent.com（请注明“AIpatent公众号来稿”） *发送邮件时请将“#”替换为“@”

下一代人工智能技术“HetAESN”架构——在高维、多尺度时间序列预测方面实现超越传统模型的性能