近年来,时间序列趋势预测已经成为工业界和学术界的研究热点,并在各种实际场景得到了广泛应用,比如金融领域的股票投资、气象领域的温度预测以及交通领域的车辆流量预测等。同时,随着互联网的飞速发展,与时序数据相关的多模态数据比如关于股票的网络评论、财报等快速增加。仅基于单一模态时序数据进行趋势预测越来越呈现出其局限性,这就使得更多的应用需要涉及多种模态的信息。由于多模态时序数据的高度随机性,现有的部分预测模型的泛化能力较弱,而且在训练过程中会出现梯度爆炸或梯度消失的情况,进而导致预测效果不佳。针对上述问题,本文进行了如下工作:（1）针对模型泛化能力较差的问题,本文提出了一种基于门控正交循环单元（Gated Orthogonal Recurrent Unit,GORU）和变分自编码器（Variational AutoEncoder,VAE）的新型股票走势预测模型（SVGN）。具体地,GORU对文本信息进行编码并与标准归一化的历史价格信息进行融合得到市场信息,然后VAE对市场信息进行推断和解码。同时,GORU引入的正交性可以缓解梯度爆炸或梯度消失的问题,增强模型的泛化能力。我们通过消融研究的结果评估文本信息和历史价格对预测准确性的相对贡献。经过实验证明,SVGN模型在公开可用的数据集上表现出色,明显优于Stock Net、Adv-LSTM等新近模型,这表明GORU和VAE可以有效提高模型预测股票趋势的泛化能力和准确性。（2）针对SVGN模型仅能捕捉一元时序数据的时间相关性,而不能有效处理多元时序数据间相互依赖的问题,本文进一步提出了基于多级上下文的多变量时序趋势预测模型（MTTM）。首先,为了捕捉每一时序数据内的时间相关性,MTTM模型将原始时序数据进行趋势分解后进行编码后得到隐藏状态。然后,通过多模态数据融合模块,将单个时序的隐藏状态与综合时序的隐藏状态进行融合。最后,利用自注意力机制将不同时序之间的影响结合起来,并为各时序趋势生成其最终预测结果。在多个公开数据集上的实验结果表明,相较于Informer、Adv-LSTM等新近时序趋势预测方法,MTTM取得了更高的准确度、MCC以及F1值,这表明了MTTM模型在多元时序预测领域具有较好的预测性能。SVGN模型主要用于股票时序数据预测,实现了较为准确的预测结果。然而,此方法需要使用文本信息才能进行预测,对于其他不含文本信息的时序数据预测能力较弱。此外,SVGN无法有效处理多元时序数据的相互依赖。针对SVGN的问题,MTTM方法利用Transformer较强的特征提取能力和并行处理能力对多元时序数据进行预测,得到了不错的预测效果。MTTM和SVGN为时序数据趋势预测领域提供了两种准确且有效的预测方法,并为后续工作提供一定的研究思路。