船舶异常行为的识别研究是建设海上智能交通监控系统的基础理论，现阶段我国沿海水域虽然建立了VTS系统，但是船舶搁浅、碰撞的事故时有发生，造成巨大的生命财产损失和对海洋环境的污染破坏。产生交通事故的原因可能是由于当时的地理环境和交通环境复杂，交通态势发生突变，船舶驾驶员没有预知危险，酿成海上交通事故;也可能是VTS中心的值班人员在事故发生之前没有对辖区内航行船舶进行有效跟踪、识别区域可能导致事故发生的异常行为的船舶，从而没有提前给予警告和提示，以阻止事故的发生。随着船舶数量的增多，值班人员所面临的工作压力将会更大。为了提高海上交通监控系统的效率，降低值班人员的工作负担，本文在对已有研究进行分析、归纳的基础上采用轨迹聚类、贝叶斯分类器、非参数核密度估计的方法开展了船舶异常行为识别的研究，主要研究工作如下:　　(1)根据平面几何中的点与直线的关系，设计了选取特定多边形区域内船舶AIS信息的数学方法。将该方法在数据库中运用Transact-SQL语句编写成存储过程，可以方便的实现特定海域船舶AIS信息选取。　　(2)设计基于空间——方向距离的船舶轨迹线相似度度量计算方法。该方法综合考虑船舶轨迹间的空间和方向相似性，经测试该方法比传统的只考虑船舶轨迹空间相似性方法更具有合理性，为船舶轨迹聚类学习提供更精确的划分标准。　　(3)以厦门港青屿水道为例，建立船舶轨迹相似度矩阵，运用K-means聚类算法对船舶航行行为模式进行聚类学习，得到监控海域内船舶典型航行行为模式。　　(4)采用非参数核概率密度函数表达贝叶斯分类器中的类条件概率密度函数，经过实验对比分析得出，核概率密度函数比已有文献中采用的的多维高斯概率密度函数更能反映船舶轨迹点空间概率密度分布，该方法为贝叶斯分类器提供更精准的分类依据。　　(5)构建基于贝叶斯分类器的厦门港青屿水道船舶常规航行行为的分类和轨迹异常的航行行为识别模型。通过实验表明该方法能够实现船舶常规航行行为的正确分类和偏离原有航行行为模式的轨迹异常船舶行为在线识别。　　本文以船舶AIS信息为基础数据，实现船舶航行行为模式的聚类学习和船舶异常行为的识别，为海上交通工程中船舶航行行为建模研究和海上智能交通监控系统建设提供理论依据。