近年来,随着移动互联网和4G、5G技术的进一步发展,流媒体业务日益流行。与此同时,流媒体传输已成为当今网络传输中的重中之重。相比于以前点播时代的视频传输,流媒体直播在低卡顿、高清晰的基础上,加入了实时交互(低延迟)的新型要求。所以面临直播流媒体传输中少卡顿、高清晰和低时延的新型挑战,本文为优化直播流媒体服务质量,开展对直播流媒体系统和算法的相关研究。首先,本文设计并实现了直播流媒体传输仿真系统。仿真系统主要分为主播推流端模块、转码服务模块、CDN(Content Deliver Network)模块和客户端模块组成。四个模块对应流媒体直播的推流、转码、CDN和下载播放四个过程。本文从需求分析、概要设计、详细分析完成了系统的设计与代码实现。仿真系统还提供日志和可视化功能以方便调试。其次完成系统的开源与发布。最后,本文验证仿真系统与真实系统的一致性,并且本系统比真实系统有一定加速比。其次,本文完成了经典自适应码率算法(ABR)在直播场景下的评测。由于ABR算法直接影响用户观看体验,文选取了学术界和工业界四种典型的经典ABR算法,挑选了典型的直播内容场景:体育直播、室内直播、游戏直播。挑选了丰富网络场景:强网环境、中网环境、弱网环境、混合网络四种模式。依据过往学术界经典QoE(Qualityof Experience)评测规则,对应各个直播场景,分别在各个网络环境中测试经典ABR算法的性能。最后根据评测结果对四种算法的性能进行分析,总结各类算法的在直播场景下表现不佳的原因。最后,本文设计并实现了基于强化学习的ABR算法RL-LIVE。鉴于上文中对经典ABR算法的分析,从直播场景的特征出发,综合强化学习特性设计了 RL-LIVE算法。RL-LIVE基于A3C网络结构,针对Pensieve算法优化了 State部分,并增加了可靠性保证。RL-LIVE基于上文中的流媒体仿真器完成了训练与实现。最后对比了改进版强化学习算法RL-LIVE在三种直播场景、四种网络情况下的性能。实验表明,RL-LIVE鲁棒性较好,在网络情况优良情况下与其他算法性能略优,但在弱网情况下性能明显优于其他算法。