本文以柴油转子机为研究对象，首先对转子发动机缸内流动及燃烧过程进行了详细分析，并在合理简化的基础上，建立了转子发动机燃烧过程的物理模型和数学模型。然后，以CFD商业软件FLUENT6.2为平台，结合自定义程序，对转子发动机缸内的流动、燃烧过程进行了数值模拟，并对计算结果进行了分析，利用文献结果进行了验证。最后，利用已验证的模型对P52型转子发动机的燃烧室进行了优化研究，同时分析了负荷、转速以及喷油提前角等工作参数对转子机燃烧过程的影响。本文的主要结论及创新点如下：(1)利用多点连线法构建转子发动机几何模型，编制自定义程序，建立了转子机动网格模型，实现了转子在运动过程中计算区域网格的更新。(2)在FLUENT燃料库中增加2#柴油燃料物性参数的数据；对218系列转子发动机缸内流动及燃烧过程进行了数值模拟，并与文献结果进行对比，结果表明：建立的转子机计算模型基本上是可靠的。(3)对P52型转子机燃烧室凹坑形状的研究结果表明：转子凹坑置于转子型面的中部而且深度较浅既有利于组织燃烧，提高转子机的动力性能，同时又兼顾了保证较低的NO排放。(4)工作参数的改变对P52型转子机燃烧过程的影响研究结果表明：随负荷增加，缸内平均压力和温度均会升高，缸内燃烧区域也扩大。对于缸内最高温度而言，在额定负荷以下，随负荷增加而升高，但当负荷高于额定负荷时，缸内最高温度增加的幅度有所下降；转速较低时，燃烧区域主要集中在工作区域的中部，随着转速的增大，缸内的最高温度呈下降的趋势，同时燃烧区域也逐渐缩小，越来越集中在一个靠近缸体附近的狭窄区域；喷油提前，缸内平均压力和平均温度的峰值均增大，但喷油过早会导致NO排放的增加；延迟喷射，会导致燃烧较晚，缸内平均压力峰值降低，膨胀功减少，从而减少了发动机功率的输出。