倒向随机微分方程(BSDE)的研究源于随机控制和金融等问题的研究；反过来方程理论的研究成果在控制、金融领域，偏微分方程等数学领域有着重要的应用。相对于正向随机微分方程，BSDE的研究起步晚，研究成果还不太丰富，同时由于倒向随机微分方程的特点，停时和局部化等正向SDE的研究技术难以直接应用。所以，BSDE的研究有着自身的特点。 目前，BSDE的研究分成两类，第一类是由Brown驱动的It(?)型倒向随机微分方程，直接源自于随机控制的研究，后来被应用于金融问题的研究；第二类是带有条件期望的倒向随机微分方程，它直接源自于金融问题的研究。由于两类方程在滤波及参系数的可积性不尽相同，所以一般情况两类互不包含。 相对于正向随机微分方程，非Lipschitz条件下倒向随机微分方程解的性质的研究尚不够丰富，特别是条件不能保证方程解唯一时，倒向随机微分方程最大最小解的存在性尚未见有成果。 本文研究倒向随机微分方程解的性质及其应用，主要结果有：针对第二类方程，讨论了在非Lipschitz条件下倒向随机微分方程解的存在唯一性，比较定理及稳定性等，在更弱条件下，得到了倒向随机微分方程的最大解和最小解的存在性，在此基础之上，给出了在随机控制及效用函数方面的应用；针对第一类方程，同样在较弱条件下，证明了方程最大、最小解的存在性、稳定性、比较定理及其在效用函数的应用。 首先，第二章在非Lipschitz条件下，研究了第二类方程的解的存在唯一性问题，在此基础上，又证明了解的稳定性；第三章在非Lipschitz条件下，证明了第二类BSDE解的比较定理，并在此基础上，利用单调迭代的方法，构造性证明了最大、最小解的存在性；第四章在以上的一些理论基础之上，得到了相应的与第二类倒向随机微分方程耦合的正倒向随机微分方程系统的一些结果，主要包括倒向随机微分方程的解关于正向随机微分方程的初值是具有连续性的，得到了最优控制和动态规划的一些结果，在这一章的最后还讨论了相应的效用函数的性质，如，效用函数的单调性、凹性以及风险规避性等;第五章，针对第一类倒向随机微分方程，运用单调迭代方法，证明了最大和最小解的存在性，并研究了解的其它性质及在效用函数上的应用。