近些年随着智能化产品的普及,通过语音等方式实现人机交互受到了广泛的应用和关注,以智能音箱为代表的智能家居产品在人们的生活中扮演了重要的作用。随着智能产品的应用场景越来越丰富,语音交互的环境也越来越复杂,尤其在室内家居、会议室、办公室等多说话人场景下,干扰说话人的存在影响了目标说话人的语音质量,降低了目标说话人的语音交互体验。语音增强的目的是从受到干扰的语音中提取相对纯净的目标语音信号,是人机语音交互的关键技术之一。由多个麦克风按照一定几何形状组成的麦克风阵列能够形成对准期望方向上的波束,增强目标语音信号的同时抑制其他方向来的干扰信号,相比于单麦克风能够有效提高语音质量,目前已经被广泛应用到音视频会议产品、智能家居以及智能车载系统当中。麦克风阵列的主要研究方向为声源方位估计和语音增强。本文针对室内人机交互中多说话人的场景,由于干扰说话人的存在而影响目标语音信号质量的问题,提出了一种新的多说话人方位估计算法和波束形成算法,并通过实验验证了本文提出的算法的性能。本文的主要工作如下:1.针对常见的方位估计算法如时延累加（Delay-and-Sum,DS）算法、联合可控响应功率和相位变换（Steered Response Power with the Phase Transform,SRP-PHAT）算法、到达时延差（Time DifferenceofArrival,TDOA）算法和压缩感知-正交匹配追踪（Compressed Sensing-Orthogonal Matching Pursuit,CS-OMP）算法在多说话人场景定位精度下降问题,通过将多说话人定位问题转化为对信号的联合稀疏重构问题,提出分布式压缩感知-同步正交匹配追踪（Distributed Compressed Sensing-Simultaneous Orthogonal Matching Pursuit,DCS-SOMP）算法,仿真和实验结果表明该算法能够提高多说话人场景下的方位估计能力。2.基于深度学习并结合混合训练,以期望信号的傅里叶对数幅度谱形式的空间指向目标函数作为优化目标,做麦克风阵列期望方向空间指向特性的深度学习优化。通过实验验证了该方法在多说话人场景下改善阵列波束形成能力的有效性。