机械齿轮传动利用轮齿相互啮合传递运动和动力，传动过程中轮齿间直接接触，因此不可避免地存在摩擦、磨损、振动和噪音等问题，且工作过程中需进行润滑，导致其在加工环境要求较高的食品、医药和化工等领域的应用受到了一定限制。磁性齿轮传动通过永磁体之间的磁耦合作用传递运动和动力，传动过程中无转动体直接接触，克服了机械齿轮传动过程中轮齿啮合带来的问题，且具有过载保护能力，现已成为国内外学者关注的研究热点。本文研究了一种基于磁场调制机理的同心式新型磁性齿轮，除拥有传统平行轴式磁性齿轮的优点外，还具有可传递转矩大和转矩密度高等优点。作为一种新型磁性齿轮传动方式，研究其磁耦合动力学问题对于进行系统动态参数优化设计和提高系统传动性能具有极其重要的意义。磁场调制型磁齿轮磁耦合刚度分析。基于磁场调制型磁齿轮的工作原理，通过麦克斯韦应力张量法推导了内外转子的平均静态转矩和磁耦合刚度，采用电磁学仿真软件Ansoft Maxwell对理论结果进行了验证，并分析了轴向长度、内转子铁心轭部外径和剩磁等设计参数对转矩特性和磁耦合刚度的影响规律，为系统结构参数优化奠定了理论基础。磁场调制型磁齿轮传动系统自由振动分析。建立了磁场调制型磁齿轮传动系统动力学模型和方程，利用解析法对系统进行了模态分析，得到了六种典型的振动模态，讨论了不同磁耦合刚度下系统模态固有频率和振型的变化规律，并完成了固有频率对各设计参数灵敏度的公式推导及规律分析。磁场调制型磁齿轮传动系统强迫振动分析。建立了磁场调制型磁齿轮传动系统强迫振动方程，利用正则变换法和传递函数法分别求解了系统时域和频域响应，将系统共振分为内转子转矩波动激励、外转子转矩波动激励和内外转子转矩联合波动激励三种情况对系统进行时域响应分析，并讨论了磁齿轮传动系统由于磁耦合刚度比机械支撑刚度小而引起的特有振动现象，完成了设计参数对系统频域响应的影响规律分析。磁场调制型磁齿轮传动系统参数振动分析。考虑磁场调制型磁齿轮传动系统构件偏心引起的磁耦合刚度波动，建立了磁场调制型磁齿轮传动系统参数振动方程，采用多尺度法求解了外部激励频率接近系统固有频率时系统主共振响应和外部激励频率接近系统固有频率与啮合频率的组合频率时系统组合共振响应，分析了主共振与组合共振中的主导频率，以及磁耦合刚度波动引起的系统特有的主共振和组合共振现象。完成了磁场调制型磁齿轮样机结构的设计、加工和调试，搭建了样机的转矩特性和模态实验平台，开展了样机的转矩和固有频率测试，通过实验测试结果和解析法计算结果的对比，验证了理论计算的正确性和样机设计的合理性。