近十年来，移动通信的发展十分迅猛，第二代移动通信系统正逐步被第三代移动通信系统所取代。第三代移动通信系统具有容量大，功耗低，通话质量高和保密性好等优点。CDMA是第三代移动通信系统的最佳多址接入方案，目前IMT-2000的三种主流制式WCDMA、cdma2000和TD-SCDMA无一例外采用CDMA技术。由于CDMA是一个自干扰系统，存在严重的多址干扰及远近效应问题，制约了CDMA的性能和容量，多用户检测作为宽带CDMA通信系统中的抗干扰的关键技术受到广泛的重视。本文围绕第三代移动通信系统中的多用户检测技术展开研究，主要贡献包括以下几个方面： 1．最小误码率线性多用户检测的问题可以归结为一个误码率代价函数的问题。分析了代价函数的性质，提出一个数学映射，将线性检测器的系数向量映射到K维欧氏空间中一个超椭球的内部及表面。从新的解空间研究问题，给出了新的代价函数，并将最小误码率线性检测器的问题转化为在超椭球约束条件下的新的代价函数的最优化问题。然后深入的研究了这个约束最优化问题，证明了其所有局部最小点都位于超椭球的表面，进一步推导出一个特征方程组。证明了约束最优化问题的所有局部最小点都是这个特征方程组的解，同时这个方程组的解满足局部最小点的必要条件。这表明，最小误码率线性检测器的问题可以转化为研究这个特征方程组的问题。 2．给出了传统的匹配滤波检测器、解相关检测器与MMSE检测器在映射下的新的表示，证明了它们由于不满足特征方程组，因此不是局部最小点。对于两个用户的情形，严格推出了最小误码率线性检测器是唯一存在的，且是某一元方程的根。对于用户数大于2的情形，提出了一个求解特征方程组的牛顿型递归算法。仿真结果表明了算法的有效性。 3．提出了一个新的凸约束条件，它是超椭球的一个凸子空间，在此条件下，新误码率代价函数是凸的，从而是一个凸约束最优化问题，具有唯一的解，这就是凸约束最小误码率线性检测器。研究了最小误码率线性检测器位于凸约束空间的一些充分条件，证明了当目标用户的信噪比大于某一临界值时，最小误码率线性检测器必然位于这个凸约束空间，即凸约束最小误码率线性检测器的解就是最小误码率线性检测器。针对凸约束最小误码率线性检测器是一个凸问题，提出了