太赫兹频段的通信由于其具有巨大的带宽和提供超高传播速率的优点,被认为是未来6G无线系统中的关键技术,并且受到学术界越来越多的关注。为了克服严重的路径损耗衰落,缓解高功率消耗,采用混合预编码技术的太赫兹大规模多输入多输出（Multiple-input Multiple-output,MIMO）系统已被广泛考虑应用于太赫兹通信中。然而,在太赫兹大规模MIMO系统中,由于太赫兹大规模MIMO系统的带宽更大,在基站端配备的天线数目更多又导致波束宽度非常窄,因此不同子载波上的波束所对准的物理方向与目标物理方向之间的物理方向偏差将显著增大,将完全分裂成独立的物理方向。这种现象被称为波束分裂效应,将导致严重的阵列增益损失,这在太赫兹大规模MIMO系统中不可忽视。此外,混合预编码的复杂优化问题求解也一直是一个关键问题,在不完美信道状态信息（Channel State Information,CSI）的情况下变得更加具有挑战性。针对波束分裂效应,通过在射频链和移相器之间引入时延网络可以将移相器生成的与频率无关的波束转化成由时延和相位联合控制的与频率相关的波束,从而补偿阵列损失。然而,上述算法是基于假设已知完美CSI的基础上进行的,在现实中获取完美CSI非常困难。因此,受到深度学习方法的启发,利用基于无监督的深度学习方法无需大量标签数据的优势,针对此问题,本文提出了一种在不完美CSI的情况下基于无监督学习的深度神经网络（Deep Neural Network,DNN）混合预编码方案,通过训练DNN模型来学习最优混合预编码矩阵,从而达到提升系统性能的目的。考虑多用户太赫兹大规模MIMO系统,基于全连接神经网络的算法并不能完全消除多用户干扰,导致基于无监督的学习方法性能受限。针对此问题,受到注意力机制的启发,提出了一种基于注意力机制的卷积神经网络（Convolutional Neural Network,CNN）混合预编码方案,注意力机制可以提取多用户间干扰的特征,根据此特征,CNN学习最优模拟预编码矩阵,从而最大化系统可达速率。通过算法仿真实验分析,所提出的算法可以在太赫兹频率下实现较优的可达速率性能,并且其鲁棒性也得到了验证。