近年来,网络信息技术的进步使得大数据的搜集成为可能,而大部分数据都与时间序列相关。面对海量的数据,研究人员越来越关注探索高效、准确的方法来揭示数据中所包含的深层信息,并建立相应的模型来预测未来,这就是时间序列分析和预测。时间序列预测在许多领域都发挥着重要的作用,如金融预测、天气预报等,因为它为资源配置和生产活动调整提供了指导。许多传统的统计学建模方法在平稳时间序列预测中得到了广泛的应用,也取得了良好的效果。但在实际应用中,时间序列几乎都是非平稳的,这就限制了上述平稳方法的应用,也降低了传统时间序列预测方法的泛化能力。因此,神经网络在非平稳时间序列预测的研究中越来越受重视。2006年,Hinton和他的学生提出了深度学习的概念,为解决大数据量的复杂数据映射预测模型的不准确性提供了新的方案。同时,现实中的非平稳时间序列受到多种诱发因素的影响,仅仅考虑预测变量的历史值是不够的。但以往的研究,大多数模型都是针对单变量时间序列的,未能考虑各诱发因素的作用。基于前人的研究,本文对深度神经网络进行研究和创新,并将多元时间序列作为输入,同时还结合了其它启发式优化算法寻找适合特定预测任务的初始化参数,在非平稳时间序列预测任务中取得了较好的效果。首先,本文提出了一种基于长短期记忆网络的多元非平稳时间序列预测算法WPDWGAN。我们将卷积神经网络模型作为特征提取器引入到非平稳时间序列分析中,通过消融实验探究池化层在多变量时间序列处理中的作用,提出了一种NPCNN-LSTM网络,为拟合多元非平稳时间序列提供了一个有竞争力的低成本模型,并通过小波包分析进一步分解高频分量,使得预测算法在超短期预测中具有明显优势。最后在保留WGAN优点的基础上,将NPCNN-LSTM网络作为生成器,多层感知器作为判别器,使算法更能反映出真实数据中的波动。其次,本文提出了一种基于回声状态网络的多元非平稳时间序列预测算法IWOADESN。该方法通过跳跃连接不同的储备池提取非平稳时间序列中不同尺度的数据特征,捕捉多元时间序列中不同时间尺度的依赖关系。同时为了解决深度回声状态网络初始固定参数较多的问题,通过在随机捕食阶段引入差分进化的变异和交叉操作,提出了基于差分进化的改进鲸鱼优化算法,用以优化模型的结构和参数。最后,金融时间序列预测是多元非平稳时间序列预测算法主要的应用场景,我们尝试将本文所提出的两类基于深度神经网络的多元非平稳时间序列预测算法应用到金融时间序列预测中的股价和股指预测问题中。本文详细介绍了金融时间序列预测问题的相关理论及股价和股指预测问题的差异,并根据算法适用性将所提出的WPD-WGAN以及IWOA-DESN分别应用于对中概股股价数据和道琼斯工业指数的预测,两类算法分别在两个数据上取得了良好的预测效果。