在无线通信信道中传输高速率数据时，码间干扰被认为是降低误码性能的主要因素，增强型数据速率GSM演进(EDGE)技术有效地提高了通用分组无线服务(GPRS)的移动数据速率，在EDGEPlus系统中，移动数据速率进一步提高，从而使码间干扰的问题越发显得突出，高性能的均衡技术对提高系统性能至关重要。进一步，为了适应未来高速分组数据传输的要求，必须提高新一代无线通信系统的数据速率，在频谱资源受限的情况下要求新一代系统具有更高的频谱利用率，支持高速率、高频谱利用率和可提供分集增益的多天线发送多天线接收(MIMO)技术，受到越来越多的关注。本论文研究EDGE Plus系统中的均衡检测算法和MIMO系统中的信号检测算法。 对于EDGE Plus系统，首先研究了相关系统模型、最大后验概率(MAP)算法、最大对数MAP(Max-Log-MAP)算法、以及全状态Max-Log-MAP算法；然后，着重研究了减状态Max-Log-MAP算法，为了适应不同的应用，对该算法进行了两种变化：(1)为了简化其计算量，将其变化为M算法：(2)为适应存在邻道干扰的情况，将其变化为邻道干扰抵消均衡算法：最后，通过仿真实验验证了各种算法的性能，并进行了复杂度的比较。 对于平坦衰落MIMO系统，首先研究了多种已有检测算法，包括基于迫零(ZF)和最小均方误差(MMSE)准则的线性检测算法、串行干扰抵消检测算法(SIC)、排序串行干扰抵消检测算法(OSIC)以及基于信道矩阵QR分解的检测算法；在对上述算法进行理论推导、误码率性能仿真和算法复杂度统计的基础上，提出了一种基于MMSE准则的改进算法--联合OSIC-线性检测算法(OSIC-LMMSE)，能够在系统性能和复杂度之间取得较好的折中；最后，通过仿真比较和算法复杂度分析验证所提算法的性能。 对于频率选择性MIMO系统，首先给出了无编码MIMO-OFDM系统模型及每个频点等效的MIMO系统模型；然后，把平坦衰落MIMO信道中的检测算法应用到MIMO-OFDM系统中，得到MIMO-OFDM系统的检测算法；最后，通过仿真验证了各种检测算法的性能。