量子神经网络（Quantum Neural Network,QNN）是一个结合传统人工神经网络（Artificial Neural Network,ANN）与量子信息和量子计算两者优势的研究领域。QNN对于弥补当前ANN的不足,以及从本质上改善神经网络的性能具有重要的理论意义。本文以ANN模型为基础,通过与量子并行计算、量子门线路以及变分量子线路等量子理论与量子力学概念相结合提出了三种QNN模型,并以QNN的典型应用分类应用为例,将其应用到网络攻击检测领域。现将研究内容归纳为以下三个方面:首先,提出了一种基于量子遗传算法优化量子门线路神经网络（QGA-QGCNN）的QNN模型,利用量子旋转门以及多量子位控制非门创建量子门线路神经网络（Quantum Gate Circuits Neural Network,QGCNN）,并利用量子遗传算法（Quantum Genetic Algorithm,QGA）全局收敛速度快的特点对QGCNN模型初始参数进行初始全局优化,然后将预测样本属性归一化的结果转化为量子态作为网络的输入,通过量子控制非门的多位控制量子位比特的纠缠来获得网络模型的输出结果。模型的实验仿真结果表明,在收敛性能与检测精度方面均优于传统神经网络与遗传算法优化的人工神经网络。其次,提出了一种变分量子神经网络（Variational Quantum Neural Network,VQNN）模型:由变分量子线路结合机器学习策略构成的一种混合量子经典计算模型。其中量子线路由两部分组成:量子态编码线路——用于将经典数据编码为量子态数据;变分量子线路（Variational Quantum Circuits,VQC）——模拟学习目标的经典概率分布,并将信息编码到量子线路参数之中。最终通过测量VQC量子态输出获得经典概率输出分布,利用经典计算机进行后处理。这种结构使得VQC与经典机器学习很容易地融合。最后,本文改进了原有VQNN,引入中间测量操作以加强模型的非线性,并针对处理目标不同设计了两种VQC。此外,本文探索了使用VQNN以及改进的VQNN来建立基于实际应用的分类器,并对改进的VQNN进行了量子真机实验,从实验结果可以看出,改进的模型具有相对较高的检测性能,且均高于其他经典对比检测模型以及QGA-QGCNN和原始VQNN模型。此外,该模型可以部署在近期绝大多数的噪声中尺度量子设备中。