自2004年石墨烯被成功剥离之后,二维材料引发了人们广泛的研究热潮。单原子层厚度的石墨烯表现出诸多独特、优异的性质,比如:高达200000cm²V^-1S^-1的载流子迁移率、超高的机械强度、高透射系数和热导率以及室温下的量子霍尔效应等等,使其在诸多领域都有着广阔的应用前景。石墨烯研究的成功激励着人们不断探索其他二维原子晶体材料,形成了丰富的二维材料家族。其中以过渡金属二硫族化合物（TMDs）为代表的硫族层状化合物,以其丰富的种类和优异的物性以及非凡的应用潜力引发了人们的广泛关注,成为近些年材料领域的研究热点。本论文的主要关注点集中在二硒化钯（PdSe₂）和二碲化钯（PdTe₂）两种新型二维TMDs材料,以及单层三碲化铈（CeTe₃）这种层状稀土硫族化合物。本论文工作中通过分子束外延（MBE）制备了高质量的以上三种二维材料,利用扫描隧道显微镜/扫描隧道谱（STM/STS）、低能电子衍射（LEED）、角分辨光电子能谱（ARPES）等多种表征手段,并结合第一性原理计算,对其结构和物理特性进行了表征研究,具体如下:（1）PdSe₂作为层状TMDs家族的一员,拥有着独特的五边形原子结构,而且之前的理论计算和输运测试表明PdSe₂薄膜有着层数依赖的可调能隙以及优异的器件性能。本工作利用MBE在石墨烯衬底上成功制备了高质量的双层PdSe₂薄膜,利用STM/STS并结合第一性原理计算分析了其原子结构与电子结构,表明其半导体能隙为1.15±0.07 eV。同时发现PdSe₂薄膜可以在单双层石墨烯基底上连续生长,原位dI/dV谱和dI/dV映射谱图结果表明,相较于双层石墨烯基底,单层石墨烯上的PdSe₂薄膜的能隙大小不变但位置移动了0.2 eV。利用这种特性可以获得原子尺度锐利的面内异质结,进而原位的实现二维材料面内的功能化,为其将来在电子学以及光电方面的应用提供了新的思路。此外,一维的PdSe₂纳米带（nanoribbon）会在PdSe₂二维岛上以固定的取向生成,为进一步研究二维材料纳米带的物性奠定了基础。（2）块体PdTe₂因其本身的超导和新奇拓扑物性（第二类狄拉克费米子）共存引起了人们极大的研究兴趣。本工作中在石墨烯和SrTiO₃（100）两种基底上制备了高质量PdTe₂少数层薄膜,并利用STM、LEED和XPS等技术进行了表征分析。Raman光谱对比分析了PdTe₂薄膜与块体的特征峰变化,从块体变成薄膜,E_g模式的峰位发生蓝移,而A_1g模式的峰位基本不变。通过ARPES测量并结合第一性原理计算研究了6层PdTe₂薄膜的能带结构,证实薄膜中存在拓扑非平庸的第一类狄拉克锥。（3）CeTe₃等材料中的电荷密度波（CDW）是凝聚态物理领域的研究热点之一。本工作通过MBE在石墨烯衬底上成功制备了高质量的单层CeTe₃薄膜,LEED表征分析薄膜共有三个方向的畴,而且CeTe₃薄膜中的CDW一维调制方向与石墨烯晶格方向一致。高分辨的STM图像证实单层CeTe₃薄膜中CDW的存在,并且其CDW特征与块体保持一致。进一步利用ARPES测量了单层CeTe₃薄膜的电子结构,并结合第一性原理计算,证实单层CeTe₃中的CDW仍然源自费米面嵌套。（4）仪器设备建设方面,在原有系统的基础上,设计搭建了一套与主系统兼容的小型MBE制备腔,从而将Se、Te等有毒有污染性的材料控制在该腔内而不影响主腔体,而且大大提升了实验效率,并且设计了相应的减震措施使其对STM的正常工作无影响。