由于毫米波信号具有高衰耗和弱穿透的特性,因而毫米波通信系统需采用大规模阵列天线技术以实现高增益的定向波束成形,弥补传输过程中的损耗。现阶段的毫米波通信系统主要采用模拟波束成形和混合波束成形这两种架构,因此,本文从降低时延和导频开销的角度出发,以提升系统的有效性和可靠性为目标,针对不同架构下的毫米波通信系统,展开了如下两方面的信号处理方法研究:1)针对基于模拟波束成形的毫米波通信系统,本文提出了一种多能级波束感知算法,通过对信号的角域和能量域进行量化来建立信号的判决准则和接入准则,并用仿真分析了能级数目、扇区角度等因素对算法检测性能的影响。进一步,本文提出了一种基于吞吐量最大化的波束搜索方案,通过分析每帧内接入和传输过程的时间关系来建立优化问题,仿真结果显示,该优化问题存在极大值点,即存在每个扇区方向上的最优搜索时间,并通过与穷举搜索方法进行比较,证明了所提基于多能级的波束搜索方法可以有效降低接入时延。2)针对基于混合波束成形的毫米波通信系统,本文考虑动态的车联网通信场景,提出了一种面向多用户毫米波通信系统的时变信道估计算法,并将该问题分解为基于中值滤波的自适应角度估计和基于复指数基扩展模型的增益估计。仿真结果显示,所提信道估计算法具有更好的准确性,可降低5dB以上的归一化均方误差。进一步,为了减少频繁的信道再估计过程,本文对两类信道追踪算法提出了改进:i)提出了一种基于到达角时间相关性的信道追踪算法,并通过仿真证明了所提算法具有更高的追踪精度,在信噪比为0dB时,均方误差可达10-2数量级;ii)提出了 一种基于车辆移动状态的信道追踪算法,仿真结果显示,所提算法能够更好地捕获目标的随机移动特性,具有更高的鲁棒性,追踪精度可维持在10-4数量级左右。最后,给出了本文的研究内容的总结,并对雷达通信一体化等场景进行了展望。