论文部分内容阅读
时间序列是一种广泛存在于现实各领域之中的海量高维数据,在与时间序列有关的研究活动中,时间序列预测和时间序列分类是两个研究重点。传统时间序列预测方法仅仅从时间的维度对时间序列进行分析,忽略了外界影响因素对时间序列产生的影响。而传统时间序列分类方法过分依赖于序列间的相似性度量,忽略了时间序列本身的内在规律。本文利用深度学习方法解决传统时间序列预测和分类方法中存在的问题,主要研究内容如下:(1)概述时间序列预测与分类的研究现状,并重点分析了基于深度学习的时间序列预测与分类的研究现状。调研了深度学习相关的理论和方法,主要包括反向传播神经网络、卷积神经网络、循环神经网络、长短时记忆网络以及注意力机制。(2)针对时间序列预测模型DA-RNN(Dual-stage Attention based Recurrent Neural Network)无法对输入特征与被预测特征之间的相关性以及输入特征之间的相关性建模的问题,本文提出了一种DA-RNN的改进模型DAFDC-RNN(Dual-stage Attention and Full Dimension Convolution based Recurrent Neural Network)。DAFDC-RNN修正了DA-RNN的问题定义中与实际应用场景不符的部分,同时引入目标注意力机制学习输入特征与被预测特征之间的相关性,引入全维度卷积机制学习输入特征之间的相关性,引入时间注意力机制学习时间序列的长期时间依赖性。实验部分首先确定了模型的超参数,然后对模型的结构以及部件进行验证,最后通过对比实验证明本文提出的DAFDC-RNN模型在大特征量数据集上的预测效果要优于DA-RNN模型。(3)DenseNet是一种基于密集连接的神经网络模型,本文提出了一种基于DenseNet的时间序列分类模型。为了验证模型的分类性能,本文在UCR仓库共85个数据集上进行对比实验,同时使用数据可视化技术CAM对分类模型的决策过程进行解释。对比实验结果表明DenseNet的分类性能要好于前沿的时间序列分类模型,包括残差网络(ResNet)、全卷积神经网络(FCN)、多尺度卷积神经网络(MCNN)和多层感知器(MLP)。