1980年,von Klitzing,Dorda和Pepper实验上发现两维电子气在低温强磁场的条件下会出现整数化的霍尔电导平台,这就是著名的整数量子霍尔效应。在此后的研究中,人们发现量子化的霍尔电导与材料能带的拓扑性质息息相关,从而揭开了拓扑物相研究的序幕。在经典的Ginzburg-Landau相变理论中,相变由系统的局域序参量刻画,相变时伴随着系统对称性的破缺。但在拓扑相变中,这一图像不再成立,拓扑相变时通常不发生对称性破缺。随着拓扑物态理论和实验的发展,人们对这个领域的理解日臻完善。近年来超冷原子,单光子等量子模拟平台高速发展,由于其强大的量子模拟能力,具有拓扑特性的人工拓扑体系得以实现,而开放体系中的拓扑现象尤其受到广泛关注。在自然界中,开放系统无处不在,因为系统与环境的耦合通常不可避免。一般而言,开放量子系统由量子主方程描述,而在特定前提下,体系的动力学性质往往可以由非厄米等效哈密顿量刻画。非厄米量子系统通常可以通过开放系统引入。近几年来,非厄米量子系统中的拓扑得到了广泛研究,其预言的丰富物理现象已在多个实验平台得以证实。体边对应是拓扑物相研究中最基本的原则之一。它描述的是开边界下的拓扑边缘态与体系能带的拓扑不变量关联,而后者需通过周期边界条件下的布洛赫能带论计算得到。而在一大类非厄米量子系统中,传统的体边对应关系不再成立。在这类系统中,非厄米趋肤效应占有支配作用。这时我们需要引入广义布里渊区的概念,在广义布里渊区积分得到的拓扑数可以正确反映拓扑边缘态的个数。研究者们由此发展出了一套非布洛赫能带理论,通过该理论我们能够正确地得到体系开边界下能谱的信息,从而重构体边对应关系。本论文聚焦这一拓扑物态领域的前沿问题,主要研究具有非厄米趋肤效应的开放量子系统。取得的主要成果如下:1、我们在二维量子行走中展示了非厄米趋肤效应,并得到了系统的体边对应关系。我们展示了系统中拓扑边缘态的出现与通过非布洛赫带理论计算得到的Floquet缠绕数是对应的,在计算中我们应用了依赖于时间的广义布里渊区。此外,我们发现在实空间中,非布洛赫拓扑不变量与准能带相关联,可通过非厄米局域指标得到,其由非幺正Floquet算子的双正交本征波函数定义。2、我们介绍了有趋肤效应的非厄米拓扑模型的淬火动力学,并展示了通过淬火动力学来探测非布洛赫拓扑不变量。将系统的动力学演化过程投影到广义布里渊区,在广义的动量-时间域上将会出现斯格明子结构,这种结构的存在与否和系统哈密顿量的非布洛赫拓扑不变量相关。斯格明子结构依赖于动力学过程的不动点,而不动点的存在与初始和演化哈密顿量的广义布里渊区是否一致相关。我们发现动力学斯格明子的整体结构在不动点不严格存在时仍然存在,因此可作为动力学探测非布洛赫拓扑系统的一般方法。我们将这个理论应用到非幺正量子行走实验上,详细地展示了通过非布洛赫淬火动力学可以探测非布洛赫拓扑不变量。3、我们讨论了如何在开放量子系统中设计实现耗散型准晶,此时体系的准周期性质完全通过耗散引入。体系短时间的动力学由非厄米AAH模型支配,而该非厄米准晶模型的相变会深刻影响体系趋于稳态时的长时动力学行为。这一结果基于体系Liouvillian超算符与非厄米哈密顿量本征谱的严格对应关系。可以证明,这一对应关系在只有线性损耗的二次型费米子开放体系中均成立。4、我们对非厄米拓扑Anderson绝缘体的局域化和拓扑性质进行了探究,展示了由随机无序引起的Anderson局域化和非厄米趋肤效应之间的竞争。无序和非厄米性会显著地影响量子系统拓扑和局域化的性质,导致新奇量子物态的出现。这两种不同的局域化机制引起了李雅普诺夫指数的非单调变化。我们探讨了无序引起的拓扑相变,并展示了它们的双正交临界性。