随着科学技术的发展和社会的进步,人们对通信服务的要求越来越高,而可用频谱资源则变得越来越紧缺。60GHz系统由于拥有5-7GHz的免许可连续频谱资源受到了广泛关注。GHz级别的信道带宽、较高的路径损耗以及容易受到遮挡的传播特性,使得60GHz毫米波通信很适于用来建立大容量短距离无线传输系统。不过由于许多60GHz无线传输系统的应用场景都要求在同一空间内能有多条链路共存,而60GHz的频谱规划方案中仅划分了2～4条互不重叠的信道,因此必须通过采取一定的干扰抑制技术来充分挖掘60GHz系统的空间重用潜力才能满足通信服务的需求。目前学术界关于这方面的研究大都集中在MAC层,物理层则相对缺乏复杂度比较低、可实现性比较高的解决方案。本文主要研究了60GHz系统的物理层干扰抑制技术,提出了一些新的思路和可实现性比较高的波束成形策略。首先,由于60GHz系统中通常会使用大规模天线阵波束成形获取定向增益来弥补较高的路径损耗,本文为此提出了一种基于子阵划分的60GHz干扰对齐策略,在高信噪比场景下有效地提高了多用户干扰信道的信道容量。之后本文研究了传统的波束成形技术,并与IEEE802.15.3c基于码本的选择波束成形策略相结合,提出了一种基于子阵划分的模拟域/数字域混合波束成形策略,通过增加一条额外的射频链路就可以在保持较低复杂度的同时显著提高系统的抗干扰能力。