作为飞速发展的移动互联网和物联网的基础设施之一,蜂窝移动通信系统应能支持泛在化和多样化的新用户/业务需求。这对同时支持人与人(Human to Human,H2H)通信和机器间(Machine to Machine,M2M)通信的第五代(the 5th generation,5G)蜂窝移动通信系统提出了新的技术需求。然而,作为5G候选技术之一的免授权频段的长期演进(Unlicensed Long Term Evolution,LTE-U)技术因信道非连续可用、信道接入时刻不确定、单次信道占用时长受限,使其随机接入和数据传输不能直接沿用传统长期演进(Long Term Evolution,LTE)系统的标准和技术。本学位论文针对LTE-U系统,研究其支持H2H业务和M2M业务的随机接入(RandomAccess,RA)技术和数据传输技术。为使LTE-U系统可以在免授权频段运行,提出“有效信道”的概念并设计有效信道上有效帧和有效时隙的辨识和编号方法。有效信道由实际信道中LTE-U系统接入信道的时段首尾相连构成,即剔除了所有LTE-U系统非信道占用时段后得到的信道。有效信道包含的帧、子帧和时隙都是“有效”的,即可以被LTE-U系统所使用。这使LTE-U系统的各种协议、操作的设计难度大幅降低。针对H2H业务,研究满足免授权频段的法规约束且最小化改动传统LTE系统的随机接入协议,并在性能分析的基础上进行参数优化。提出一种基于用户分组和有效窗长的随机接入协议。该协议中用户被分成不同的组,每个时刻只有一组用户发起RA尝试,从而降低组间用户冲突;组内的积累用户被分散到多个RA时隙上发起RA尝试,从而降低组内用户冲突;用户在组激活时段内的等效连续信道上发起RA尝试和接收RA响应,从而避免LTE-U系统信道占用起始时刻不确定和单次占用信道时长有限引起的不必要的preamble码重传。推导出该协议的随机接入性能的闭合表达式,并推导出使随机接入效率最高的最优承载RA时隙的个数,为LTE-U系统的随机接入参数配置提供理论依据。针对小数据包M2M业务的下行数据传输,研究兼顾系统信道利用率和用户满意度的数据传输机制。首先定义归一化的用户满意度和信道利用率。其次,建模使LTE-U系统的信道利用率和用户满意度加权和最大的信道占用时长和子载波分配时频两维联合优化问题,并引入控制因子来灵活调整两者的权重。对需要提前知晓全部信道衰落、用户数据到达等统计信息方能求解且计算复杂度高的原始优化问题,借助李雅普诺夫优化理论解耦为只需利用当前数据到达信息和信道占用时段内的瞬时信道状态信息来求解的优化问题,再用Dinkelback理论将目标函数从分式表达等价转化为便于计算的减式表达,并提出转化后的优化问题的启发式求解算法。该理论工作可以为未来LTE-U系统中空口的设计提供指导。针对大量小数据包的M2M业务的上行数据传输,设计一种高效的随机接入和数据传输系统:分布式队列随机接入-多入多出数据传输(Distributed Queueing Random Access-Multiple-Input Multiple-Output,DQRA-MIMO)。该系统兼具分布式队列随机接入(Distributed Queueing Random Access,DQRA)协议冲突解决高效和多输入多输出(Multiple-Input Multiple-Output,MIMO)技术数据传输能力强的优点。为达到大的系统吞吐量和小的时延,本文提出使M2M业务冲突解决能力和数据传输速度相匹配,推导出吞吐量关于用户到达率、基站接收天线数和接入请求时隙数的闭合表达式。建立优化模型,推导出给定用户到达率、基站接收天线数和平均时延约束下使系统吞吐量达到最大的最优接入请求时隙数的显式表达。本理论研究和验证结果为LTE-U网络支撑海量小数据包业务提供参考依据。