本博士学位论文首要的工作是首次用改进的能量和空间坐标下的非平衡Green函数方法mES-NEGF(modifiedEnergyandSpaceNon-EquilibriumGreensFunction)研究了10纳米左右的二维弹道双栅MOSFET的交流小信号特性。为此，我们首先分析了散射矩阵(SMT)和Wigner函数数值模拟方法的缺陷以及ES-NEGF(EnergyandSpaceNon-EquilibriumGreensFunction)的优点——双时Fourier变换充分利用了交流小信号的周期性。接着，分析了现有文献对ES-NEGF方法所做的工作及它只适用于零维模型的原因：没有考虑器件中小信号电势的分布。然后，通过微扰展开和双时Fourier变换，考虑了小信号内建电势的分布，推导出数值计算所需要的基本公式，证明了对于理论来说至关重要的规范不变性。在完成了方法的准备之后，我们用mES-NEGF对10纳米左右的二维弹道双栅MOSFET的交流小信号特性进行计算，分析了纳米弹道双栅MOSFET的截止频率和按比例缩小特性。为了得到截止频率，首先计算了弹道双栅MOSFET工作点的直流特性，通过小信号内建电势的边界条件给出了小信号Y参数的计算方法，然后从Y参数得到截止频率。截止频率和单位电流跨导的计算表明，在保持合适的单位电流跨导下，弹道双栅MOSFET的截止频率仍然可达到3THz左右，另外，弹道双栅MOSFET的按比例缩小特性在小电流下出现了反常变化。 进一步，为了对mES-NEGF有更多的认识并展示这一方法的通用性，我们计算并分析了纳米弹道n+-ni-n+结构、介观电容以及共振隧穿二极管(RTD)的交流小信号特性。对纳米弹道n+-ni-n+结构、介观电容的计算表明，用mES-NEGF方法计算得到的导纳在低频极限下的实部与直流稳态非平衡Green函数差分求导得出的电导相同，虚部与按几何结构用平行板电容公式计算的数值接近。另外，用mES-NEGF方法对RTD计算的导纳满足Kramers-Kronig关系且负阻工作点上的传导导纳与N.C.Kluksdahl等人用Wigner函数方法计算的结果类似(2THz以下表现为感性，2THz以上表现为容性)。 论文第二部分的工作集中研究纳米MOSFET的直流特性。这包含两方面的内容，即圆柱栅MOSFET(VCSG)的数值计算和双栅MOSFET(DG)中栅隧穿电流的自洽计算。首先，我们推导了VCSG中的模式表象技术。其中为了利用圆柱体的旋转对称性，采用了各向同性的假设。接着，通过与DG的对比计算，分析了VCSG的输出特性、亚阈值特性、跨导特性以及阈值电压的涨落特性等，特别是指出了VCSG和DG在跨导特性上的差异。最后总结了这一结构的优缺点。 在DG的栅隧穿电流计算方面，继续采用模式表象技术，通过栅的分解与复合以尽可能小的计算量实现栅隧穿电流在非平衡Green函数方法范畴内的自洽计算，从而避免文献中采用事后处理或者是使用Fowler-Nordheim模型来计算栅隧穿电流的缺陷。最后，得出了弹道DG中栅隧穿电流沿沟道的分布以及栅隧穿电流随栅氧化层厚度、沟道本征硅层厚度的变化关系，分析了这些变化关系中起主导作用的因素。 论文第三部分的工作集中于程序设计。给出了用非平衡Green函数方法进行直流和交流小信号特性数值计算的程序流程。在交流小信号特性的数值计算中，发现数值积分的误差会破坏理论的规范不变性，因而提出了改进的表达式来消除这一问题。为了减小计算量，研究了各种减小计算量的技巧并进行了并行计算的程序设计。 论文从以下四个方面进行了创新性的研究： 1.用mES-NEGF方法对10纳米左右的弹道双栅MOSFET的截止频率和按比例缩小特性进行了分析计算。其创新性在于：文献中的非平衡Green函数方法局限于对纳米MOSFET作直流稳态分析，而经典方法对纳米MOSFET所作的交流小信号分析又都局限于比较大的沟道长度，即20nm以上。另外，计算中发现的按比例缩小的反常特性在文献中还没有报道。 2.建立了计算交流小信号特性的非平衡Green函数方法mES-NEGF。这一工作的创新性在于：文献中计算交流小信号特性的非平衡Green函数方法没有考虑小信号内建电势的分布，而本论文加以了考虑，从而能够把原来局限于零维模型上的计算推广到高维模型上去。并且，这种方法具有较好的通用性，能够适用于纳米级MIS电容、二极管、双极晶体管、RTD以及MOSFET的数值计算(只要其中自洽场方法能够使用)，不但能够处理弹道输运还能够推广到存在非弹性散射的情形，因而具有重要的理论意义。 3.栅隧穿电流的自洽计算。这一工作的创新性在于：首先，由于使用了非平衡Green函数方法，能够处理沟道中载流子的非平衡分布；其次，由于是包含栅在内的自洽计算，考虑了栅隧穿电流对沟道中电势分布的影响，这区别于通常计算栅隧穿电流时采用的事后处理的方法；计算耦合矩阵元时考虑了低电压下绝缘层势垒为矩形势垒而不是三角形势垒，这区别于通常计算隧穿电流时所用的Fowler-Nordheim模型；最后，由于采用了模式表象技术，能够进行准一维的计算，这区别于计算量很大的二维模型的计算。总而言之，我们的方法增加了计算的合理性和准确性，减小了计算量。 4.用mES-NEGF方法对n+-ni-n+结构、介观电容、RTD的交流小信号特性进行了研究。其创新性在于：这些一维的计算不但证实了mES-NEGF的正确性，还得到了一些文献中没有报道过的结果(如电容随势垒高度的变化、RTD中的位移电流等)。