透射电子显微镜（TEM）是表征材料微观结构强有力的工具。带有球差校正（aberration-corrected）的透射电镜更是因其出众的原子级分辨率、能直接探测材料中元素种类和价态而获得研究者们的青睐。在最近20年里,球差校正器（aberration corrector）的发明和改进使透射电镜的空间分辨率得到了关键性的提升,目前电镜的横向分辨率已经小到几十皮米,可与原子直径相比拟。值得关注的是,扫描透射电镜（STEM）的纵向分辨率也因球差校正器的引入而获得了极大提升,目前已经达到了纳米级。理论模拟证明,随着技术的发展,在不久的将来纵向分辨率将也能达到原子级。纵向分辨率的提高发掘出了STEM更多的应用潜力,使原位快速地获取样品的三维信息、表征复杂的内部结构成为现实。此外,另一项基于透射电子显微镜的先进技术——原位技术的发展给在电镜中操纵和测量样品提供了途径,使人们能够实时地观测微观区域在多种外场作用下的结构演变,并同时测量演化过程中力、热、光、电、电化学和催化等物理和化学性质。球差校正电镜与原位技术的联合,实现了原子级的结构表征与性质测量以及多场调控同步进行,达到了真正的“所见即所得”的目的。本论文基于先进的球差校正透射电子显微镜和原位透射电镜技术,研究了几种层状纳米材料的结构,以及结构相变与物理性质之间的关系。包括Cu2Se纳米片中的莫尔图案（Moirépattern）;Cu2Se纳米片电致相变、阻变现象;Mo S2锂化导致的结构相变与光学性质等。本论文主要研究内容和取得的结果如下:1.提出了一种辨别纳米材料中长周期图案（Long-period patterens,LPPs）种类的方法。我们以Cu2Se纳米片为例,基于球差STEM的电子束断层扫描成像（Depth sectioning）的方法,深入探究了Cu2Se纳米片中的一类反常的LPPs,首次实现了对晶体材料的上下层原子级成像,揭示了该LPP为转角堆叠结构造成的莫尔图案。该方法解决了一直以来在电镜中莫尔图案与晶格调制结构图案（Modulated crystal pattern）难以区分的问题,为进一步探索结构的成因提供了基础。2.通过多种手段表征了热电材料Cu2Se纳米片的晶体结构,利用球差校正电镜和旋转电子衍射（RED）三维重构法,揭示了水热法合成的Cu2Se纳米片中的面缺陷,解释了RED中长倒易杆的来源。另外,利用原位电学系统,发现了具有超离子特性的材料Cu2Se在电场作用下的可逆结构相变、阻变现象,并探究了电场诱导析出的纳米颗粒的成分、机械性能和量子化的导电特性,为解释热电材料在电场下的性能衰变提供了思路。3.利用原位光学-电学系统,在TEM中对Mo S2进行原位锂化,同时测量了Mo S2锂化前后的阴极荧光（CL）光谱,发现了锂化后Mo S2的带边发射峰产生淬灭。用球差校正电镜在原子尺度上观测了锂化过程中产生的多种1T’相超结构,并研究了锂化过程的可逆性问题。