嵌入式系统、移动网络和无线网络无处不在,并在许多场景中得到应用。由于无线网络的开放特性,无线设备之间通信变得方便,更多的安全隐患也随之出现,因此,安全性是无线系统中的一个重要问题。随着计算机处理能力逐渐提高,传统的密码学安全方法的缺陷也随之显现。大量IoT设备的出现,也给传统的密钥管理方法带来了巨大冲击。为了确保无线网络的通信安全,必须在安全属性、功能和加密原语之间做出谨慎的权衡。例如,资源受限的节点应接收较少的计算密集型任务,而缺乏抗篡改能力意味着长期的秘密不应该驻留在节点中。为保证网络通信的安全性,除了可以使用传统的安全方法,还可以利用无线信道的随机性,在物理层上保证无线网络安全通信。对此,本文首先研究了无线网络中协作干扰的安全问题。本文提出的方法对窃听者的位置和窃听者的数目不进行任何限制,即存在数目不限的窃听者,且窃听者可能位于距离发送方或接收方附近的位置。该策略的核心思想是采用分治策略对窃听者进行干扰,利用发送方和接收方主动产生的干扰信号来解决邻近收发端的窃听者所引发的安全问题。协作干扰方法中,需要对部分网络节点设置参数,包括:作为干扰器的合法节点数目,收发双方的阈值等。实践中,我们可以使用次优化方法确定需要作为干扰器的合法节点数量,其基本思想是,把可闻区域(由于有窃听者存在,通信不安全的区域)内的其它合法节点视为窃听者,如果在当前干扰器的数量下,可闻区域内的所有合法节点都被阻塞,则认为当前的通信是安全的,此时干扰器的数量即为所需数量。此外,在不同的网络场景中,难以获得合适的参数,也难以实现最大的保密容量。文中提出了一种可行的方法,即利用简化的机器学习算法得出次优值。为了减少节点的资源损耗,文章选择了收敛速度快、计算复杂度低的K-最近邻算法。然而,K-最近邻算法容易陷入局部最优解而非全局最优解,为了在保证低计算复杂度的前提下解决这一问题,文中采用了简化的遗传算法来获取全局最优解,并由此得到协作干扰中的全局次优参数值。为进一步确保网络通信的安全,文章提出了一种对应用层的安全方法――加密流量分类,即从加密的混杂网络流量中对特定应用的流量进行分类。对加密网络流量进行分类可以帮助网络管理者分类不同的网络应用和协议,以实现多种安全目的,如网络设计,QoS服务中的应用优化和协议调度等。流量分类方法不但提供了更好的QoS服务,也保证了网络通信的安全性。本文使用机器学习来实现流量分类方法:将采集到的流量分为训练集和测试集,训练过程中,构建C4.5决策树分类器和马尔可夫链分类器;在测试集中,使用C4.5分类器对马尔可夫链分类器进行辅助,并逐渐完善马尔可夫链方法所用的流量指纹。评估和仿真结果表明,协作干扰具有提高网络安全性能的能力,可用于无线网络的初始连接。且在协作干扰的基础上,对加密流量的分类可以进一步提升无线网络的安全性。