物联网（Internet of Things,Io T）在近年来发展迅速的同时,针对物联网基础设施、应用程序和终端设备的攻击也显著增加。恶意软件作为物联网中最主要的威胁,常导致个人隐私数据泄露、物联网设备遭遇僵尸网络攻击等问题。设计有效的恶意软件检测机制,对保障物联网的安全具有重要的意义和价值。自2015年微软恶意软件检测挑战竞赛之后,人工智能驱动的恶意软件检测技术取得了显著的进展,检测准确率日趋饱和。依据训练检测模型所需的特征不同,恶意软件检测的现有方法可以划分为:基于静态特征的检测和基于动态特征的检测。与现有恶意软件检测主流技术不同,物联网中的恶意软件检测尚处于起步阶段。人工智能驱动的检测机制作为物联网中恶意软件检测的主要手段,尚需要解决如下问题:（1）现有模型伴随复杂的样本采集、特征工程和模型训练,具有计算量大和成本高的特点,不适用于在物联网终端设备上安装和部署。（2）现有模型多基于大量已知恶意软件样本的有监督学习,而大量面向有监督学习模型的对抗攻击方法被提出,现有恶意软件检测模型无法对恶意软件对抗样本进行有效检测。（3）物联网中以Mirai为代表的恶意软件,其典型的攻击特征包含在攻击发生时的网络通信报文中。因此,基于已知“标签”类别的恶意样本训练的检测模型无法对此类攻击进行有效检测。为解决上述问题,本文对物联网及其中代表性的恶意软件进行分析,以提升物联网中恶意软件检测性能和增强检测模型健壮性为目标,本文从以下三个方面提出有效的解决方案:（1）对基于端到端的Mal Conv模型进行改进,优化并调整卷积结构,降低卷积过程所需的参数为原模型所需参数的1/13。改进后的模型可以安装并适配物联网终端设备,且对恶意软件的检测达到原模型Mal Conv的准确率。（2）针对物联网中典型的僵尸网络攻击和分布式拒绝服务攻击,鉴于其攻击特征主要体现在网络流量方面的特点,设计并实现了基于Bi-LSTM模型的物联网恶意流量检测机制。实验结果表明,该模型获得了99.54%的检测准确率,高于恶意流量检测的其他模型。本文进一步实验分析了重要特征与网络通信流量之间的关系,对影响Bi-LSTM模型结果的重要特征进行量化分析,找到了对物联网中的恶意流量进行检测的两个关键特征,包括:连接记录、响应包字节大小。（3）为增强检测模型的健壮性,以恶意软件和恶意流量为模型的输入,定义加权优化目标函数,对改进的Mal Conv模型和Bi-LSTM模型集成融合。实验结果表明,融合模型获得了95%以上的检测准确率。同时,模型对恶意软件对抗性样本具有很好的健壮性,对抗样本逃逸率低于10%。