跨站脚本攻击（Cross Site Scripting,XSS）是Web应用最常见的攻击方法之一,XSS攻击具有攻击方式灵活与混淆方式众多的特点。近年来,已经有许多基于机器学习与深度学习算法进行XSS攻击检测的研究,但现有的XSS攻击检测的研究很少考虑到对抗样本对检测模型的影响,如果对抗样本能成功绕过攻击检测,则攻击检测模型将不能拦截黑客的攻击,导致XSS攻击严重危害用户的信息安全,所以,针对攻击检测模型本身的可靠性与安全性的研究变得尤为重要。基于上述背景,本文研究了XSS攻击检测模型的安全性问题,主要对如何生成XSS对抗样本和如何检测XSS对抗样本展开研究。本文主要工作包括:（1）针对XSS攻击检测模型本身的安全性与可靠性,本文设计了Black＆White Attack的对抗攻击方法,并且提出了一种基于Soft Q-learning的XSS对抗攻击模型。首先,本文构建了一个包含24万条字符串的Fuzzing良性数据集,并利用Fuzzing模型来实现Black＆White Attack,Black＆White Attack通过在恶意样本中添加良性样本来提高样本的置信度。其次本文提出了一种基于Soft Q-learning的XSS对抗攻击模型,模型分为HTML绕过与Java Script绕过两部分,它能根据XSS绕过方法针对不同的XSS攻击检测模型生成对抗样本。在实验中,本文对基于不同方法的XSS攻击检测模型进行对抗攻击,并采用绕过率来评估本文提出的XSS对抗攻击模型的有效性。根据实验结果表明,本文提出的对抗攻击模型能够成功地针对各种XSS攻击检测模型生成对抗样本,并且绕过率都达到了85%以上,这表明目前基于这些方法的XSS攻击检测模型在面对对抗样本时将变得不再可靠。（2）针对XSS攻击检测模型在面对对抗样本时存在的安全性问题,本文提出一种基于抽象语法树的XSS攻击检测模型。模型将对XSS样本中的HTML AST语法树进行解析,对HTML的语法树利用HTML语法规则分析出具体执行Java Script的部分,接着利用Java Script AST语法树排除一些注释和混淆后添加的特殊字符。最后利用深度学习算法对预处理后的XSS样本进行分类。实验结果表明,在面对本文提出的对抗攻击模型的攻击时,该XSS攻击检测模型将绕过率降低到了1%以内,证明在面对对抗样本时该模型有较好的分类效果。