涡旋光束由于其独特的物理性质,近年来被广泛的研究并且应用于各个领域。涡旋光束携带有轨道角动量(OAM)的独特性质使其可以很好的应用于光学通讯领域。OAM作为信息传输的媒介有着正交性,无限表示范围等优点,然而由于物理装置的复杂性以及大气湍流的扰乱,依靠传统方案搭建的自由空间OAM传输系统的识别准确率不高,传输效率低。为此,我们借助机器学习的工具,采用对光强分布图进行图像识别的方案,对OAM进行检测和识别。在本文中,我们提出并产生了一种混合角动量的光束,其在OAM的识别上具有很大的优势,同时也为光的OAM识别方案提供了更可控的自由度。基于混合角动量的光束,我们利用并改进AlexNet架构的卷积神经网络(CNN)机器学习方案,最终实现了基于花瓣干涉模式的光OAM的高精度识别。我们分别研究了训练样本分辨率和训练样本数量关于训练时间和识别准确率的关系。也研究了识别准确率与OAM量子数l,螺旋相位占整个混合相位的角动量比例n,和传播距离z这三个参数的关系。我们的研究表明,当量子数l范围从1到10,和n变化范围从0.02到0.99时,识别准确率接近100%。在OAM模式下识别出的最小角动量比例n的间隔为0.01,表明了这种混合角动量光束具有超高带宽,对于下一代基于CNN的OAM光通信具有巨大的潜力。