随着第五代移动网络（The 5th Generation,5G）的商业部署,以人工智能、云计算、物联网为代表的新兴行业不断涌现,各种便携式无线通信设备的数量出现了爆炸性的增长,这对5G网络容量的可持续发展提出了极大的挑战。为了尽可能地节省无线通信设备的能耗和成本,同时满足高速率大带宽的系统需求,智能反射面（Intelligent Reflecting Surface,IRS）辅助的毫米波通信技术以其实时控制无线传播环境的特性,吸引了学术界和工业界的广泛关注。总体来讲,IRS能够通过自适应地调整反射系数,为基站（Base Station,BS）和用户之间建立可靠的通信链路,从而实现无线传播环境的智能控制,被视为解决毫米波通信高路径损耗的一项潜在技术。然而,受到实际系统中的非理想因素影响,IRS辅助的毫米波通信传输也面临着相位噪声、硬件损伤以及信道估计误差等诸多问题。鉴于此,本文围绕上述问题开展深入研究,主要研究内容如下:首先,针对非理想相位误差下IRS辅助的毫米波通信系统,提出了一种新型的导频训练辅助的两阶段传输框架,其中在第一阶段进行相位校准,在第二阶段进行信道估计与数据传输。具体的,首先采用二维离散傅里叶变换和最大化-最小化（Majorization Minimization,MM）技术迭代估计BS-IRS信道,用户-IRS信道和相位误差,然后结合使用分式规划和MM技术联合优化BS有源波束和IRS无源波束。仿真结果表明,所提出的相位校准算法能够逼近克拉美罗界。同时,对比进行相位校准前后的信道估计性能与波束赋形性能,验证了所提方案的有效性和必要性。其次,针对非理想硬件损伤下IRS辅助的毫米波通信系统,考虑了非方向性相位误差和阵子位置误差引起的方向性相位误差,提出了一种高效的联合相位误差与阵子位置误差的校准方案。具体的,为了降低信道状态信息（Channel State Information,CSI）估计的导频开销,首先设计了一种基于角度域的毫米波信道估计算法,然后利用MM技术迭代估计出非方向性相位误差和方向性相位误差,最后采用投影梯度下降技术估计阵子位置误差。仿真结果表明,所提出的联合校准算法能够分离估计出两种相位误差,而且均方误差（Mean Square Error,MSE）性能要优于前述仅考虑相位校准的设计方案。最后,针对非理想CSI下IRS辅助的毫米波通信系统,提出了一种基于统计鲁棒性的联合有源波束和无源波束赋形方案。具体的,首先推导出接收符号平均MSE的闭合表达式,然后利用拉格朗日乘子法和MM技术迭代优化BS有源波束、IRS无源波束以及接收端均衡器,最后简要分析了算法的收敛性和复杂度。仿真结果表明,所提出的鲁棒性波束赋形方案远远优于传统的半正定规划波束赋形方案。