石墨烯与拓扑绝缘体两种奇异的量子系统是目前凝聚态系统中的前沿研究课题，理解其新奇的量子行为不仅有助于基础物理学的发展，而且对半导体、自旋电子学、以及量子计算等应用方面都有重要的理论指导意义。研究奇异系统中的磁性杂质的性质对研究特殊能带结构及态密度的体系中的Kondo效应、RKKY相互作用及磁性等有着重要价值。在本文中，主要运用Hirsch-Fye量子蒙特卡罗方法(quantum Monte Carlo method)去计算单粒子虚时格林函数，并且基于Wick定理去计算各种物理量的统计平均值。另外，采用了用贝叶斯最大熵方法(Bayesian Maximum Entropy method)从有限温度的格林函数中提取实频率的谱密度，可以让理论计算的结果更好地与实验相结合。本文中系统地探讨了在三种不同的体系:伯纳尔堆垛的双层石墨烯，zigzag型石墨烯纳米带以及三维拓扑绝缘体中磁性原子的物理性质，取得的研究成果如下:　　1.讨论了磁性杂质在伯尔纳堆垛结构的双层石墨烯中的反常物理性质。主要考虑了两种情况:磁性杂质分别位于A或B亚晶格上，并发现类似于单层石墨烯中的情况，随着化学势的变化，杂质原子的磁矩在一定的能量范围内可调。而由于双层石墨烯中的两套亚晶格不等价，杂质的性质很大程度上取决于杂质的位置，并且其区别随着s-d混合强度的增加和d电子的关联能的减少而变得更加明显，并说明了这些反常行为都是来源于双层石墨烯中杂质对空间位置的依赖。　　2.讨论了两个磁性杂质在zigzag型石墨烯纳米带边缘上的间接互作用随化学势的变化。由于在zigzag型石墨烯纳米带边缘有局域的零能态，杂质的磁矩被严重抑制，两个杂质原子之间的自旋-自旋关联函数也与石墨烯中不同。特别是当两个杂质附着在两个最近邻的边界碳原子上时，随着化学势的降低，杂质之间的反铁磁关联会有一个增强再降低的过程，这与石墨烯中的性质有显著的区别。　　3.介绍了磁性杂质在三维拓扑绝缘体中的研究结果。在拓扑绝缘体中形成能带翻转时，拓扑绝缘体的能带结构及态密度都会与普通绝缘体显著不同。单杂质下，磁性杂质的局域磁矩形成主要受到拓扑绝缘体态密度的影响。论文中也进一步探讨得出了由于拓扑绝缘体的自旋-轨道耦合，两个磁性原子自旋-自旋关联函数由三种不同的分量构成，即横向、纵向及DM项。其次，当磁性原子格点上有局域磁矩形成时，两个磁性原子之间的自旋-自旋关联在小的位移区间都是铁磁的。另外，还发现DM项的旋转方向与体系化学势之间的关联。