多入多出(MIMO)技术充分利用空间资源,采用多个天线实现信息多发多收,具有频谱利用率高和系统容量大的优点,是无线通信领域的重要技术。而作为第五代移动通信（5G）中的重要技术——大规模天线技术，通过大量增加收发天线极大地提高了频谱利用率。并且，大量天线可以将发射或接收信号的能量集中到非常小的空间区域，借此提高系统能效。本文研究了面向下一代无线通信的多天线技术，主要工作和结论如下：首先，本文给出了一种具有鲁棒性的OFDM-MIMO收发机设计方案。该方案以最小化信号检测的均方误差（MSE）为优化目标，在总发射功率受限的条件下给出了MIMO系统发射端的鲁棒性预编码方案。该算法与注水算法（waterfilling）类似，但由于考虑了信道误差的影响，不同载波上的注水的基底也为待优化变量，所以，我们称这个算法的解为“分簇注水”（cluster waterfilling）形式。并且，该“分簇注水”算法同传统注水算法的解一样，都是闭式形式，所以具有非常高的实际应用价值。接下来，本文提出了一种在最大化系统容量准则下的MIMO系统预编码矩阵的鲁棒性设计方法。在考虑信道估计误差的前提下，我们构造了一个具有总发射功率受限约束的MIMO系统容量最大化问题，通过“分簇注水”算法得到了该鲁棒性方案的近似最优解。最后我们将所设计方法与现有的非鲁棒性方法进行了比较，仿真结果验证了所提方法的优异性能。然后，本文研究了多小区多用户的大规模天线系统的信道的半盲估计问题。所提方法利用大规模天线系统不同用户信道向量的近似正交性，采用特征值分解法，根据接收到的数据信号和少量导频信号对大规模天线系统的信道进行估计。该方法解决了大规模天线系统在信道估计过程中所需导频过多的问题，并具有很好的性能，仿真验证了我们的结论。最后，本文设计了一种大规模天线系统中导频数据传输资源联合优化分配方案。该方案在使用最优导频信号结构前提下，得到用户可达速率与导频数据信号长度、导频数据信号功率功率分配之间的关系，进而通过优化这些参数来最大化用户可达和速率。最后所提方案的性能通过仿真得到验证。