为克服毫米波信道极高的路径损耗,毫米波通信系统需要使用大规模天线阵列来提供足够高的阵列增益从而获得相应的接收信噪比。因此,找到毫米波通信系统中基站与用户间的最强到达角并进行波束对准是毫米波通信系统建立通信链路的关键。随着天线数量的增多,用于信道估计的时间开销将越来越大。如何在天线数量较高条件下,实现快速毫米波通信系统的主波束搜索以及准确信道估计,已成为毫米波通信中的一项核心研究内容。本论文从毫米波通信信道的传输特性、通信系统模型、天线阵列相关、波束成形、波束搜索、信道估计和预编码设计技术出发,分析综述了现有的各类技术,积极探讨了硬件受限条件下,特别是低精度模数转换（A/D）受限条件下的混合构型毫米波通信系统的数据传输,以及1-bit量化A/D条件下的波束搜索及信道估计方法。论文的研究工作和成果如下:1.针对毫米波通信数据传输过程中高精度A/D所需的硬件成本和能量损耗问题,设计了一种新型的基于复杂移相器网络及低精度A/D的混合构型毫米波传输系统,可以有效提高系统能效比并基本保持系统传输性能。通过搭建基于Simulink的全流程仿真系统,可以实时仿真硬件受限条件下的新混合构型毫米波通信系统的传输特性。该Simulink仿真模块具有较好的可移植性,并可以较好地适配相应的现场可编程门阵列（FPGA）。仿真实验结果表明:在新混合构型毫米波通信系统的数据传输过程中,以低精度A/D取代理想高精度A/D,能大幅降低系统硬件成本及能耗,并保持相应的传输能力（以误码率计）。2.针对混合构型毫米波通信系统的波束搜索过程,提出了一种基于1-bit量化A/D受限条件下的毫米波波束搜索及信道估计算法。该波束搜索算法通过引入n重伯努利分布、置信区间和奖励函数等来设计量化函数门限值和奖励函数门限值,并在相应门限值条件下设计算法,以便通过较少的观测次数来获取足够准确的波束搜索结果。以此波束搜索结果为基准,给出了采用模拟波束成形条件下的不同量化精度下信号传输的误码率性能。仿真实验结果表明:1-bit量化A/D受限条件下,基于最佳判决门限值及奖励函数的信道估计算法是准确、可行的,能够有效地降低工程实践中的硬件开销,并且有效控制相应的测量次数。3.搭建了基于Simulink的1-bit量化A/D受限条件下的新型混合毫米波信道估计及数据传输仿真模型,在波束搜索过程和数据传输过程中分别使用1-bit量化A/D和b-bit量化A/D,在信道估计过程中使用理想高精度A/D。在此基础上研究了使用不同量化精度A/D下的系统误码率性能。分析表明:低量化精度A/D能在较好地达到数据传输及信道估计精度要求的条件下使得系统能量消耗以及硬件成本较小。