纳米尺度器件中载流子的输运研究是当前的研究热点和难点。一方面纳米尺度器件因为其尺寸小于载流子的平均自由程,载流子的输运行为无法用宏观尺度输运的概念来描述。在小于平均自由程的情况下,载流子的波动性开始体现,量子效应对输运有很大影响。另一方面纳米尺度器件中载流子数目成千上万,并受到各种散射的作用,波函数的相干性受到破坏,宏观统计效应对输运也有很大影响。纳米尺度器件中载流子的输运行为体现出量子力学与经典力学的共同特征。对纳米尺度器件载流子的输运行为进行研究,除了理论分析和实验验证之外,数值计算也是一种重要手段。科学计算已经成为即理论和实验之后的第三种科学方法。器件模拟作为计算微电子学的三个主要组成部分之一,可以在不实际制造的情况下,对新概念器件的性能进行评估;通过对计算结果进行分析,提取实验中无法测量或很难测量的物理量,可以获得对器件工作过程的深刻理解,为进一步的器件模型的提出、器件性能的优化和提出新器件打下基础。随着半导体器件进入纳米尺度以及新型器件的不断提出,器件模拟正变得越来越重要,作为器件模拟核心的输运模型也遇到了更多的挑战。挑战可以分为两个方面。第一个方面是如何改进传统的半经典输运处理方法,使之包含诸如量子隧穿、能级分裂等量子效应,以描述纳米尺度下越来越明显的载流子的波动性。第二个方面是如何将量子输运理论引入到半导体器件模拟中,解决其计算量过大、计算时间过长的问题。　　本文针对上述两个挑战,分别进行了研究。针对第一个挑战,通过在蒙特卡罗模拟器中加入可以描述电子和空穴两种载流子的量子隧穿效应的模型,成功的对肖特基晶体管进行了模拟,并对肖特基晶体管的栅感应势垒降低效应、杂质分凝结构等进行了详细的分析。通过采用解析公式来描述石墨烯纳米带的一维子带结构,并考虑了声学声子散射、光学声子散射和界面粗糙散射,利用独立开发的单粒子蒙特卡罗模拟器,对石墨烯中的电子的迁移率进行了计算。针对第二个挑战,我们对量子输运理论非平衡格林函数(NEGF)进行了发展,利用Low Rank ApproximaUon的概念,得到了一种全新的可以极大的减小NEGF计算量的方法。这种方法可以在只引入最大计算误差约10％的情况下,上千倍的减小NEGF的算量。我们从理论上对这种方法进行了推导,并给出了算例,证明这种方法的可行性、可靠性和优越性。主要研究内容包括：　　⑴通过在全能带蒙特卡罗模拟器中加入量子隧穿效应,对45纳米N型肖特基晶体管中的特性曲线进行了模拟。蒙特卡罗模拟器中的量子隧穿模型使用WKB近似计算载流子在源漏两端的隧穿几率,根据隧穿几率决定载流子是否注入沟道。使用上述模型,成功的得了和实验结果相符的N型肖特基晶体管的特性曲线。在模拟中考虑了栅感应引起的肖特基势垒降低效应。研究结果表明,栅感应势垒降低效应可以极大的增大肖特基晶体管的输出电流。肖特基势垒高度越大,栅感应势垒降低效应的作用越强。栅电压越小,栅感应势垒降低效应的作用越强。　　⑵使用包含了量子隧穿效应的全能带蒙特卡罗模拟器,对N型肖特基晶体管中的不同结构变化带来的影响进行了深入研究。对杂质分凝结构(DSS)的研究表明,DSS结构可以极大的增加肖特基晶体管的输出电流,使其性能得到增强。进一步的模拟结果表明,DSS结构的长度存在一个最优值,高于这个值后对性能几乎没有影响。同时,栅感应势垒降低效应在DSS结构中的作用被削弱。对源与栅不对准的结构研究表明,即使是源与栅仅仅只有2纳米的不对准,肖特基晶体管的输出电流也会大大下降。而栅感应势垒降低效应的作用会由于源与栅的不对准而增大,因此缓解了其对肖特基晶体管性能的负面影响。结构杂质分凝结构(DSS)可以极大的缓解由于源与栅没有对准而带来的肖特基晶体管性能的下降。　　⑶开发了可以处理双极输运的全能带肖特基晶体管蒙特卡罗模拟器。通过改进蒙特卡罗模拟器中的量子隧穿模型,使之可以在源漏两端同时考虑电子和空穴的隧穿注入,成功的模拟了P型肖特基晶体管和N型肖特基晶体管,得到了肖特基晶体管特有的双极输运特性曲线,为进一步分析优化肖特基晶体管的性能,并据此提出肖特基晶体管的弹道输运模型打下了基础。　　⑷开发了单粒子蒙特卡罗模拟器,可以对石墨烯纳米带中的电子的迁移率进行研究。模拟器中考虑了石墨烯纳米带的一维多子带结构,加入了载流子的多种散射机制:声学波声子弹性散射,光学波声子非弹性散射(发射和吸收),界面粗糙散射。每种散射机制都分别考虑了子带间散射和子带内散射。利用该模拟器成功的得到了和实验结果符合的石墨烯中电子的低场迁移率,并对石墨烯中电子的高场迁移率退化、界面粗糙散射对迁移率的影响进行了研究。　　⑸发展了一种可以极大的减小非平衡格林函数(NEGF)方法的计算量和存储量的方法。NEGF方法是一种通用的、基于量子统计力学、可以对纳米尺度的载流子的输运进行处理的严格方法,但是其庞大的计算量是其进一步推广应用的巨大障碍。我们提出了一种被称为Low Rank Approximation(LRA)的方法,可以在只引入最大约10％误差的情况下,成百上千倍的减小NEGF的计算量和存储空间。　　⑹利用LRA方法,成功的对一个微米尺度的均匀结构进行了包含非弹性声学声子散射的模拟。整个模拟过程完全可以在一台个人计算机上完成。模拟结果显示,当不断的增大非弹性声学声子散射的散射率时,载流子的输运会逐渐的从量子弹道输运向扩散-漂移输运转变。这是首次使用NEGF方法对微米尺度的半导体器件进行模拟,并观察到量子弹道输运向扩散-漂移输运转变过程。