随着移动智能终端的快速普及以及万物互联所带来的移动新业务的持续增长,使得第五代移动通信系统(5G)需要满足高速率、高频谱效率和功率效率的需求。能够支撑每秒千兆比特传输速率的4G移动通信系统,将难以满足未来移动通信的应用需求,这就需要新的无线通信技术予以支持。与此同时,在无线资源日益紧张的情况下,如何降低移动通信网络的能源消耗,提升频谱效率与功率效率也是5G中的核心问题。大规模多输入多输出(MIMO,multiple-input multiple-output)无线传输技术通过深度挖掘空间资源,已经成为第五代移动通信领域最重要的研究方向之一。然而大规模MIMO技术走向全面应用,仍面临一系列挑战。例如:大规模MIMO无线信道建模,信道状态信息获取,多用户数据传输以及初始接入等。近年来,相关学者将大规模MIMO信道从天线域转换到波束域,提出了波束域信道建模、大规模MIMO导频复用方法以及波束分多址传输方案,有效的解决了数据信道传输的问题。但对于通信尚未建立的初始接入过程,仍有许多新问题需要进一步研究。对于下行同步,已有学者提出了全向传输方案,很好的解决了波束角度较窄需要频繁扫描的问题,而对于上行同步,如何在波束域进行用户随机接入的研究尚未全面展开。本论文针对小区内用户数较多时需要进行随机接入的场景,从大规模MIMO波束域信道特性出发,研究了大规模MIMO随机接入信道设计,搭建了 5G原型验证系统并在此基础上进行了算法的硬件设计与实现。首先,本文研究了大规模MIMO波束域信道。分别针对窄带波束域信道,正交频分复用(OFDM,orthogonal frequency division multiplexing)宽带波束域信道以及毫米波波束域信道进行了建模,研究了天线域信道与波束域信道之间的内在联系,揭示了波束域信道的稀疏特性和能量集中特性,为大规模MIMO波束域上行同步方法提供了重要的理论依据,并通过仿真实验验证了波束域信道的相关特性。其次基于波束域信道特性,研究了波束域大规模MIMO多用户上行同步方法,首先针对窄带信道证明了当小区内用户数巨大时,大规模MIMO波束域同步具有抗干扰性能,然后研究了大规模MIMO上行在基站侧未知用户到达角时的时间同步方法。并在此基础上,研究了宽带大规模MIMO-OFDM随机接入检测算法,给出了大规模MIMO-OFDM随机接入定时估计在天线域和波束域下的理论解释,并对天线域和波束域随机接入接收分集方法进行了研究,给出了波束域下不同合并方法的性能对比,并提出了一种便于硬件实现的选择波束等增益合并(SC/EGC,selective combining/equal gain combining)方法。仿真结果表明所提出的大规模MIMO-OFDM随机接入检测算法的性能显著优于传统天线域随机接入检测算法。最后,在大规模MIMO-OFDM随机接入检测算法的基础上,搭建了 5G原型验证系统并在此基础上进行了算法的硬件设计与实现。首先,给出了大规模MIMO原型验证系统的架构、平台硬件组成以及原型验证系统接口设计。在此基础上设计了基于通用软件无线电外设(USRP,universal software radio peripheral)的低复杂度波束域发射和接收方法,在发射端采用基于剪枝离散傅里叶变换(DFT,discrete fouriertransform)的混合时频发射机,在接收端采用降采样频域接收机,大大减少了计算量及资源消耗。同时对随机接入检测算法的浮点程序进行了定点化,建立了定点仿真链路,用于与硬件结果进行对比验证。最后,在USRP上对该设计进行了硬件实现,并给出了基于USRP的波束域随机接入信道硬件实现的资源消耗情况以及系统验证方案。