随着互联网业务的飞速发展和无线宽带接入技术的日益成熟,人类对信息的需求和获取方式也在发生变化。原有的通过固定终端或是单个移动终端连接到网络的模式已经不再能够满足要求。在公共交通工具上或是个域网(Personal Area Network)中,人们希望能将多个移动终端相互连接,作为一个整体在网络中移动,并接入移动互联网进行信息交互。这些移动节点和负责中继的移动路由器一起构成了移动热点网络。由于移动热点网络能够有效地提高无线资源的利用率、并实现恶劣无线环境下的通信,所以在近几年受到了学术界和工业界的广泛关注。但是移动路由器节点的引入将原有的单跳传输转变为两跳甚至多跳传输,增加了保障服务质量的难度。因此,如何在移动热点网络中有效的满足不同业务对服务质量的差异性需求,具有重要的科学意义和实际的应用价值。论文以排队论、马尔可夫链和随机Petri网等建模分析方法为理论基础,围绕着移动热点网络中多业务传输的服务质量展开研究。论文的创新性工作主要包括如下几个方面：1)采用排队论对视频业务在移动热点网络中的传输进行建模,推导了数据包级别的性能指标(数据包时延、时延抖动和丢失概率),并分析了移动热点网络中无线局域网传输对骨干链路传输的影响。提出了离散时间马尔可夫调制的到达过程对经过无线局域网传输后到达移动路由器的视频数据进行建模,所提出的模型准确且简单、易于分析。2)针对视频会议等实时业务对数据包时延要求较高的特点,在骨干链路传输中提出了基于时延的数据包主动丢弃的传输策略,避免了有限的通信资源浪费在对上层业务已经没有意义的数据上,从而降低了数据包的时延和时延抖动、提升了系统性能。3)针对移动热点网络中骨干链路的网络选择问题,提出了一种具有普适性的广义随机Petri网模型,可以灵活的对多种不同的网络选择算法建模、并清晰的描述移动用户在异构无线网络中的移动性和网络状态的变化。在此基础上,分析了新用户呼叫阻塞概率、切换丢失概率和网络承载用户数等系统性能指标。相比于原有的多维马尔可夫链分析方法,所提出的广义随机Petri网模型直观且易于扩展。4)针对广义随机Petri网和马尔可夫链分析方法中无法避免的“状态空间爆炸”问题,提出了基于网络分解的随机Petri网模型对网络选择算法建模,并提供了相应的迭代算法。数值结果表明：所提出的模型在保证分析精度的基础上降低了计算复杂度,从而使大规模网络的服务质量分析成为可能。5)针对不同业务对服务质量的差异化需求,论文提出了基于跨层设计的多业务传输方案：在物理层,根据业务对数据包时延和误包概率的不同要求,选择相应的自适应调制编码方案；在链路层,基于业务的重要性划分优先级,采用非抢占的优先级传输策略保障重要业务的服务质量。在此基础上,结合广义随机Petri网对网络选择算法建模分析的结果,分析了不同网络选择算法对移动热点网络中多业务传输服务质量的影响。