在21世纪的今天,人工智能蓬勃发展,而神经网络模型技术的逐渐成熟在其中起到了关键性的作用。神经网络模型作为一种特征提取器在多个研究领域都展现出了强大的性能。这主要是因为它对复杂函数有着强大的拟合能力,并且参数越多拟合能力越强。因此网络结构被设计的越来越深、越来越宽。然而,模型的训练和测试不仅要占用非常多的存储空间,还对设备的硬件有较高的要求。这给神经网络模型在边缘端设备上的部署造成了非常大的障碍。因此,神经网络模型压缩这一研究方向在近年来受到了广泛的关注,不仅可以实现参数量的压缩,还可以对模型的推理速度进行加速。本文分别从低秩分解和剪枝两个方向提出了两个新的基于低秩约束的神经网络模型压缩方法,具体介绍如下:1)基于随机张量分解算法的层次压缩框架。该方法首先利用随机投影技术将原始张量投影到一个中间维度,然后再对其进行进一步的低秩张量分解。经过两层的层次压缩可以有效地达到期望的压缩比,同时可以得到一个较为精确的原始张量的低秩近似值。该方法创新性地将随机投影与张量分解方法结合起来,在计算效率和模型性能上达到了一个更好的平衡。此外,借助于随机投影的特性,通过层次的压缩可以去除参数中的噪声,使对含有噪声的参数的压缩变得更加鲁棒。在两个数据集上的实验结果证明了基于随机张量分解算法的层次压缩框架可以取得较好的性能。2)核范数正则引导的自适应剪枝方法。已有的剪枝方法利用l1范数衡量滤波器的重要性,但是当范数值分布得很均匀时,剪掉任何一个滤波器都会造成很大的信息丢失。针对此问题,本方法提出在模型训练过程中利用核范数引导参数趋于低秩,使滤波器的范数值之间的方差变得更大。另外,为了解决每层参数的剪枝比例固定不变的问题,提出了剪枝比例动态调整策略,可以随着参数低秩性的变化动态地确定当前的剪枝比例,有利于对模型进行更合理的剪枝。在多个网络上的剪枝结果可以证明该方法相比于其他方法是更加有效的。