海量多维数据的涌现与积累促进了机器学习、模式识别、计算机视觉等人工智能领域的迅速发展。然而,现有的数据分析工具主要依赖于向量化处理方式,很大程度上破坏了原始数据的结构信息,导致大数据的分析过程存在众多问题,如内存负载高、计算繁杂以及模型冗余等。张量在多维数据的高效建模、简约表示以及关联分析等方面存在众多优势。因此,选定联合张量分解网络作为主要研究对象,在大数据的多维度联合分析、高效计算、模型低秩优化等方面开展理论、技术以及算法的系列研究。主要研究内容和创新成果如下:首先,针对大数据联合分析的需求,提出了联合张量分解网络,并在此基础上研究了大数据稀疏性问题以及安全性问题。具体来说,针对大数据形式多样、特征高维、高耦合、强关联等特性,现有向量化处理方式难以捕获多维数据内部关联的问题,提出了基于联合张量分解网络的高阶高维数据联合分析与特征提取方法,充分发挥了张量网络在多维数据分布式表示以及维度约减方面的优势,在维持数据的原始结构与全局信息的同时,实现特征维度的百倍约减。进一步针对多维数据中普遍存在的数据不完整性问题,包括固有稀疏特性,数据缺失等,提出了基于张量表征以及联合张量分解网络的低秩补全方法,在维持记录数据复杂关联、多维依赖以及潜在周期特性的同时,实现对多阶段不完整观测数据的互补推断与补全,有效提升了现有补全方法的精度。此外,针对大数据服务场景中存在的数据孤岛以及隐私泄露等问题,提出了基于联合张量分解网络的多方数据高效计算与联合分析方法,包括基于联邦框架的多方联合高阶正交迭代算法,以及基于联合高阶正交迭代算法的联邦张量分解方法,并分析了联邦张量分解模型的可并行、可增量等优势,实现了联邦框架下多方数据的安全高效分析。其次,针对联合张量分解网络拟合能力不足的问题,进一步提出了张量神经网络,并在此基础上研究了其结构冗余问题。具体来说,针对上述线性张量网络的拟合能力不足、数据分析过程缺少目标导向且难以适用于大规模数据处理等问题,提出了基于张量多线性代数理论的高阶张量神经网络,有效结合了神经网络和张量网络的优点,即神经网络强拟合能力与张量网络简洁性,在显著提升张量网络在大规模数据集上的分类性能的同时,实现了模型的百倍压缩。针对神经网络模型在处理大规模数据时存在的结构/特征冗余问题,提出了基于张量网络的深度神经网络优化方法。通过将传统的循环神经网络扩展到高阶场景,提出了基于多线性代数理论的高阶循环张量神经网络,利用张量多线性变换重构输入层-隐藏层以及隐藏层-隐藏层的基本线性变换,有效提升了循环神经网络对多维序列的表征以及处理能力,分类性能提升高达6%。进一步针对以全卷积网络为代表的卷积网络模型的结构与特征通道冗余问题,提出了基于联合张量分解网络的全卷积网络优化方法,并构建适用于替代卷积操作的轻量化且高效的多步卷积特征生成模块。在保证模型分割性能的前提下,模型参数被有效压缩80%以上。实验结果表明所提出的方法不仅可以有效提升传统神经网络模型的性能,而且可以大幅度减少模型的训练开销。论文所提出的一系列基于张量网络的数据联合分析、高效计算以及模型低秩优化方法,极大程度促进了张量多线性代数理论在大数据时代的进一步推广与应用。