随着计算机与通信技术的快速发展,越来越多的数据在公共互联网中进行传输。为了保护数据安全,需要了解攻击者的手段,并在此基础上设计可增强抵抗攻击能力的加密算法。在密码攻击中,密码分析者只能截获部分未知算法加密的密文,从而导致密码分析破译的工作无法展开,因此密码算法的识别是密码分析的第一步。机器学习对数据处理具有的较高的洞察力、优化能力,其中支持向量机与随机森林常用于对数据进行分类,在密码识别领域受到关注。其次,机器学习算法结构具有高度非线性,用于设计密码算法可以增加密码分析的难度,为机器学习在密码结构的设计提供了研究依据。目前,机器学习方法在序列密码的研究刚刚起步,研究成果较少,在轻量级序列密码的设计与分析的相关研究更是较为稀少;同时,由于神经网络的硬件实现具有并行化、处理速度快等特点,更易于轻量级序列密码在硬件的实现。为此,本论文利用机器学习方法研究轻量级序列密码体制的识别分析和设计,主要研究内容分为以下两个方面:一、基于分组密码的密文识别研究成果,给出轻量级序列密码体制的识别模型及相关指标,首次尝试针对Fruit-80、Sprout、Plantlet、Grain、Lizard五种轻量级序列密码进行识别。首先分别进行算法实现并加密实际明文得到密文文件。然后,利用随机性检测、定长比特、熵等提取算法提取密文特征,构建数据集。最后,在不同任务场景下,分别使用支持向量机和随机森林识别方案进行分类训练和测试。实验结果表明,采用支持向量机算法时,二分类的识别准确率达到60%左右,多分类下可以达到30.96%的准确率,均优于随机猜测;采用随机森林算法时,二分类的识别准确率能达到85%以上,多分类下识别准确率在55%左右。在两种分类算法的参数合理情况下,随机森林算法的识别效率要高于支持向量机。二、由于BP神经网络是多层感知器的扩展,解决了感知器网络连接权值学习问题,更利于布尔函数的实现。因而本文在目前已有的利用感知器易于实现四元布尔函数的基础上,分析了以BP神经网络实现布尔函数的可行性,进而研究发现可以使用BP神经网络学习过程中出现的过拟合现象来实现布尔函数,通过实例分析得到了高于四元的布尔函数,因而该实现布尔函数方式优于已有的感知器方式,可以得到更高位的布尔函数。为了增强轻量级序列密码Fruit-80算法的安全性,在利用多层感知器构建25P网络实现由两个(n-1)元布尔函数构成n元布尔函数的基础上,使用25P感知器和上述BP神经网络的实现方式组合设计Fruit-80算法中的过滤函数作为非线性模块,列出了算法的具体结构及初始化过程。经过分析该密码方案,可以达到根据不同用户密钥训练学习得到不同的网络(即:不同的非线性模块),证明了基于BP神经网络的Fruit-80算法能增强抵抗TMDTO攻击、代数攻击等。同时,由于神经网络在硬件实现上具有优势,使得算法具有较好的使用价值。最后,对该算法生成的序列进行NIST和国密伪随机检测。