本文的研究工作主要集中在高维样本协方差矩阵的理论研究及其在通信中的应用，简要的介绍了随机矩阵的背景和研究现状.介绍了常见的随机矩阵，本文研究了一类广泛的样本协方差矩阵，本文将An的特征值和特征向量结合在一起定义了一类新的经验分布函数.假设UnAnUn*是An的谱分解，其中An=diag(λ1，λ2，...，λn).假设xn∈Cn，‖xn‖=1，是任意一个单位向量，y=(y1，y2，…，yn)*=Un*xn.定义新的经验分布函数，本文分析了这些随机二次型的各种渐近性质，包括强，弱收敛，收敛速度，渐近分布等结果.并且也获得了一个二次型的多维中心极限定理.将以上结果应用于分析多级平行干扰取消接收器的大系统性能.获得了渐近信干比和渐近分布.并且本文也分析了上述二次型中的随机矩阵的对角线元素的渐近性质，证明了对角线上的元素与相应矩阵的迹(除以某个数)有相同极限，分析了匹配滤波器的大系统性能.获得了其渐近信干比，信干比的渐近分布.本文也分析了一类次最佳接收器的大系统性能。