整数量子霍尔效应以及量子反常霍尔效应,作为拓扑绝缘体的第一类例子已经被深入研究很多年了。然而,在过去的几年内,理论上预言了一类新的具有时间反演不变性的二维和三维拓扑绝缘体,这些体系具有能在无外磁场、室温下工作,以及极低功耗的特点,为未来新型半导体器件的开发迈出了极为重要的一步。在这些拓扑态被提出之后,该领域内有两个亟待解决的问题。第一个问题是,这些态在自然界中真的能够被实现吗?第二个问题是,使这些态和一般的能带绝缘体相区别的性质是什么?本论文将分五个部分着重论述这两个问题。第一章,我们介绍了本研究领域的相关背景,以及对于量子自旋霍尔效应和拓扑绝缘体的研究现状。在量子自旋霍尔效应的这一节中,我们着重介绍了描述量子自旋霍尔体系的边缘态—螺旋液体—的有效理论,及其拓扑稳定性。在拓扑绝缘体的小节中,我们以(2+1)维的狄拉克费米子为例,说明由于宇称对称性破缺所引起的物理效应—半整数量子化的霍尔电导。第二章,我们主要讨论了在垂直外磁场下的二维空穴气中的自旋霍尔效应。这一讨论是针对当时在二维电子气和空穴气体系中,不论是在实验、还是在理论上都不能有效地分辨内秉和外秉自旋霍尔效应的矛盾的。我们提出了两个可以用来指导在实验上对内秉和外秉自旋霍尔效应加以区分的现象。首先,我们发现了外磁场下二维空穴气体系中自旋霍尔电导共振的现象。这一现象只出现在具有内秉自旋霍尔效应的体系中。不仅如此,自旋霍尔电导的共振有效地导致了体系边界上的自旋积累。其次,我们发现这一自旋霍尔电导的符号可以通过外磁场、自旋轨道耦合强度,以及空穴的面密度进行周期性地条件。这些结果同时还可能利用在未来的信息技术中。第三章,我们研究了基于非阿贝尔的Aharonov-Bohm效应在体系边界上的自旋积累。文献指出,在[110]量子阱中的Dresselhaus类型的自旋轨道耦合,在数学上可以通过一个非阿贝尔的规范变换去除掉。在外磁场的作用下,这样一个非阿贝尔的规范势导致了体系边界上的自旋积累,其中,两个边界上自旋积累的相对符号可以通过Dresselhaus自旋轨道耦合的符号来调节。实验上,这一结果可以在现有的精度下、通过克尔测量来探测。第四章,我们讨论了拓扑绝缘体里的杂质效应。我们首先介绍了最近在三维拓扑绝缘体中角分辨光电子能谱和扫描隧道显微镜中的相关实验,这些实验不仅完全验证了对拓扑绝缘体的理论预言,也给出了在三维拓扑绝缘体表面由于杂质所引起的准粒子的相干现象。针对这些实验,我们给出了在拓扑绝缘体表面上,非圆形费米面体系中,点状和线状杂质对体系局域态密度的幂次率的一般性定理。我们还讨论了在三维拓扑绝缘体表面上的单个磁性杂质对于局域态密度的影响,以及杂质间的RKKY相互作用。基于磁畴费米子的图像,我们论证了杂质间的相互作用为铁磁性相互作用,并用数值方法验证了这一结果。我们还给出了相应的重整化方程组。最后,我们还研究了由于在拓扑绝缘体块体内的杂质带来的效应。我们发现,不论是对于二维的还是三维的拓扑绝缘体,块体里的杂质都能在体能隙中引起持续的局域激发态,并且不随着杂质耦合强度的变化而消失。第五章,我们研究了二维Kagome晶格中自发对称性破缺的问题。我们特别关注由于相互作用而动力学产生的各种拓扑相。最有意思的是,在抛物线型的费米点附近,各种动力学产生相都具有无穷小的不稳定性,即在足够低的温度下,对于任意小的有限相互作用强度,体系都具有对称性破缺的不稳定性。基于这一结果,我们还讨论了在Kagome晶格中,在最低平带的半填充下,铁磁量子反常霍尔态的动力学产生的现象。