鉴于全球环境质量的不断下降以及当今以化石燃料为主的能源结构的局限性,使得清洁能源的利用问题越来越受到人们的关注。这其中,氢能由于其高效、清洁等优点而格外引人注目。然而到目前为止,由于对氢气燃烧机理和燃烧行为的认识尚未完善,这很大程度上限制了人们对氢能的安全开发和利用。基于此,本文利用高精度直接数值模拟的方法对非预混火焰在流动和燃烧过程中的不稳定性行为和燃烧的内在机理做了详细研究。在研究中利用768个处理器核进行了大规模的高效并行计算。而且,为了能得到更精细的流场结构,在计算中考虑了实际燃烧中的详细化学反应过程。本研究包括四方面的内容,分别为：(1)探讨了氢气非预混火焰在流动和燃烧过程中固有的流体动力学不稳定性。(2)研究了由于氢气自身的快速扩散的属性诱发的热扩散不稳定性对非预混火焰结构的影响。(3)探讨了燃烧室中非预混火焰因火焰、压力波及燃烧等因素的相互作用诱导的声学响应和热声耦合不稳定性的形成。(4)建立于三维大规模的直接数值模拟中提供的海量数据的基础上,开展了对非预混燃烧中的输运模型的检验和发展的研究。在流动和燃烧过程中自身存在的流体动力学不稳定性方面,分别开展了二维和三维直接数值模拟的研究,探讨了氢气射流撞击火焰在近场区域的不稳定性。研究中发现,浮力驱动下的流动不稳定性对火焰外部涡旋结构的形成至关重要。而且,捕捉到了由剪切效应引起的开尔文-亥姆霍兹不稳定性和相应的小尺度涡旋结构的形成,并且探讨了扰动对这两种不稳定性的响应。通过比较二维和三维的模拟结果,发现二维模拟结果有一定的局限性,但它可以节省大量的计算资源,而三维结果的预测更为准确和精细。通过大规模高精度的三维直接数值模拟,进一步研究了氢气非预混火焰中的热扩散不稳定性。这种不稳定性是由氢气自身的快速扩散的性质诱导的。研究发现,流场中固有的流体动力学不稳定性会引发非预混火焰的不稳定,而由优势扩散引起的热扩散不稳定性在一定程度上却能够减弱这种不稳定性的影响。不仅如此,优势扩散的作用也会影响非预混火焰的组成结构。并且由于组分H2和自由基H的快速扩散的输运性质,导致流场中高温区的产生和局部高反应物浓度的分布特征。本文还考虑了实际动力推进系统的燃烧设备里经常会发生的燃烧不稳定性即热声耦合不稳定性。分别通过实验观测、直接数值模拟、以及理论解析三种方法研究,并将三者得到的结果进行对比分析,发现了非预混火焰中的热声耦合不稳定性的形成,而且这种燃烧不稳定性诱发了火焰面周期性撕裂的行为。并且,非预混火焰对外界扰动的响应呈现低通特性。在论文的最后,通过对上述的三维大规模的直接数值模拟中得到的各个瞬态数据的统计,研究了湍流的统计特性和输运特性,并预测了湍流脉动标量的逆梯度输运的现象。研究发现,不论是均一扩散还是优势扩散的条件下,对于非守恒量和守恒量而言,非预混火焰中的湍流脉动标量的输运行为都并未完全遵循经典的梯度模型中所描述的梯度输运,即梯度输运模型具有一定的局限性,它并不能准确地描述非预混火焰中的湍流输运行为。而逆梯度扩散现象的发生是由于剧烈的化学反应热释放引起的压力梯度的变化,进而影响湍流的扩散和输运过程。最终,湍流标量输运呈现出梯度扩散和逆梯度扩散共存的特征。