噪声中的信号检测是信号处理的基本内容，研究在噪声背景下的信号检测具有重要的意义。传统的模拟解调方式存在元器件不理想，适应性差等弱点，因此基于数字处理器的以软件的方式来实现信号解调的方法得到了广泛的研究。对只包含有限多个状态的数字信号进行检测可以看作是一个分类问题，因此，在本文的研究中，把在分类方面比较有优势的神经网络用来进行信号的检测，主要探讨了神经网络在信号检测中的一些应用。 人工神经网络是由大量简单处理单元广泛连接而成的网络，它是现代神经生物学和认知科学对人类信息处理研究成果的基础上提出来的。在信号、信息处理机制上，与传统的数字计算机有着本质的不同，它具有大规模并行模拟处理、连续时间动力学和网络全局作用等特点，信息的存储体现在神经元的连接分布上，存储区和操作区合二为一。神经网络的高度并行运算能力，可以实时实现难以用数字计算和技术实现的最优信号处理算法。神经网络不仅是一种信号处理的工具，更是一种方法论，利用它可以得出很多很传统方法不同的新理论、新方法。近些年来，具有代表性的多层感知器神经网络被大量应用于电子工程领域，包括模式识别、自适应控制、学习系统、VLSI、最优化处理等领域，在通信信号处理中的应用也越来越受到人们的重视。 本文主要探讨了神经网络在信号检测中的三种应用。首先，把神经网络和传统接收机结合，利用神经网络来重建受到线性畸变的信号星座图；进而，考虑到神经网络自学习、非线性映射及具有很强分类能力的特点，将神经网络直接用于通信信号的解调，仿真结果显示其性能接近最优检测器，可以考虑替代相关检测器而使用。为了提高网络泛化能力，使网络具有一定容错性，提出了相应的优化训练措施。出于有时没有训练信号的考虑，引入了一种自组织竞争神经网络，这是一种无导师学习的神经网络，可以通过在处理信号的同时自动适应信号的变化，达到对信号准确分类的目的。文章最后对神经网络在处理码间干扰中的应用进行了简单探讨，并引入一种改进的BP算法，提高了收敛速度，通过仿真验证了其有效性。