为了应对能源短缺和环境污染的问题,由于新能源汽车具有节能环保的优势,逐渐成为了汽车行业研究的热点。目前,混合动力车是最切实可行的新能源汽车方案,汽车需要动力耦合装置协调发动机与电动机之间的动力分配,丰田公司在1997年提出了第一代普锐斯行星齿轮动力装置,可以实现汽车各种行驶工况动力的合理分配,结构简单,功能全面,且申请专利保护。复合结构电机（Compound-Structure Machine,CSM）是一种新型的电磁无极式变速装置,在诸如混合动力车、风力发电、水下推进等需要进行机电能量转换的场合中,具有广阔的应用前景。将复合结构电机应用于混合动力车可以实现丰田普锐斯的动力传输装置的功能,有利于突破其在混合动力车领域的专利保护,促进国内混合动力车研究的发展。本文以基于复合结构电机的混合动力车（Hybrid Electric Vehicle based on Compound-Structure Machine,CSM＿HEV）中的再生制动系统为研究对象,充分发挥复合结构电机能量转换方式灵活的优势,提出CSM＿HEV新型的再生制动模式,并对关于新型制动模式的切换和制动力分配算法,再生制动系统与ABS系统的协调控制,制动动态过程的舒适度等多方面进行了研究,为复合结构电机在混合动力车中的实际应用提供新的理论基础,对混合动力车能量管理策略的研究具有重要意义。本文首先建立CSM＿HEV中不同驱动模式的数学模型,分析CSM＿HEV各部件的动力学关系和功率流动情况。按照混合动力车行驶的动力性需求,对汽车的动力系统输出参数进行匹配,最后以丰田普锐斯的发动机参数作为参考,对复合结构电机的动力参数进行分配,为后续的再生制动研究提供理论基础。接着本文分析复合结构电机在动力传输拓扑结构中的动力耦合方式,建立复合结构电机与发动机输出转速、转矩间动力耦合关系表达式,以此为基础对制动需求进行分析,提出四种不同的制动模式,包括发动机-电机协调制动（Engine-motor coordinating braking,EMCB）和双电机制动（Dual-motor braking,DMB）两种新型的制动模式,其中EMCB模式可以使发动机在制动工况下依然运行在最优状态,降低了发动机状态切换频率,改善燃油经济性,DMB模式可以充分发挥CSM的再生制动力,提高汽车的能量回收效率。然后对CSM＿HEV的再生制动系统的三个重要问题进行研究:针对新型制动模式的切换和制动力分配问题,本文提出一种双层控制策略,上层控制器为基于规则的模式切换控制策略,用于汽车对四种制动模式进行选择和切换,下层控制器为基于神经网络的制动力分配策略。控制器可以实现汽车在NEDC,Ftp72和Highway三种典型工况下实现模式切换,在不同的控制模式下实现高效的制动力分配。针对再生制动与ABS系统的协调控制问题,本文提出了基于模型预测控制算法（Model Predictive Control,MPC）的再生制动与ABS系统协调控制策略。MPC控制器以制动安全性和复合结构电机效率为优化目标对复合结构电机进行制动力分配,使汽车能够跟随目标滑移率,保证复合结构电机系统的高效运行。针对再生制动动态过程的制动舒适度问题,本文对一般复合结构电机控制策略进行改进,提出了复合结构电机输出转矩控制和基于冲击度反馈的输出转矩控制策略,降低了新型制动模式的制动过程和关于新型制动模式切换过程的制动冲击度,满足了制动舒适度要求。