未来的无线通信网络规模大、构成复杂、覆盖广,业务种类及服务质量要求多样,因此为了不同客户的异构化、个性化的通信需要,未来无线通信网络的网络特征与网络结构、各类网络协议及其设计方法、以及物理层技术呈现异构化倾向。异构化网络已经成为未来的无线通信网络研究工作中必须面对的问题。异构无线网络能够充分利用现有不同无线网络之间的特性互补效能,为不同的用户提供较好的接入服务,从而让用户享受到更便捷的网络通信服务,对它的研究具有重大的学术意义和应用前景。异构无线网络的实现是一个相当复杂的系统工程。它需要各类接入网络系统,在各用户平台、网络系统之间实现协作通信和无缝对接,最终形成一个自适应、高度自治的网络,具有良好的自组织性、可伸缩性和重构性。与传统网络存在较大差异,因此传统成熟的网络技术不能直接运用于异构无线网络。论文首先详细分析了现有安全路由、QoS映射技术、以及安全认证技术的研究现状和不足,总结出其在异构无线网络中所面临的挑战,然后针对这些挑战提出了相应的算法及方案,并通过大量的仿真实验进行了验证。本文主要取得如下研究成果：(1)针对异构无线网络中存在的主要安全问题,提出了基于虚拟子网与物理子网相结合的节点信誉路由技术。根据拓扑结构划分物理子网,采用直接评价与间接评价相结合的方法对节点进行信誉评价,将节点按照不同的信誉区间划分成多个虚拟子网,且不同的虚拟子网代表了不同的安全性与服务质量。同一虚拟子网内的节点按照链路质量进行路由选择。最后通过对恶意节点与自私节点的实验表明,该模型能够有效地隔离恶意节点并选择最优路由来避免自私节点。(2)针对异构无线网络中的QOS映射问题,提出了一种新的QoS映射模型,该模型由核心网QoS代理服务器(CQA)和接入网QoS代理服务器(AQA)来进行实施。该模型主要由局部QOS信息收集与汇总、全局QoS信息注册,在CQA节点上创建QoS静态映射模式,CQA与各AQA共享全局QoS的模式,各AQA节点上根据当前数据包请求创建QOS动态映射模式四部分组成。为解决了目前无线异构网络中链路通信资源差异大,通信质量变化快等现象提出了一种解决方法与实现机制,通过Z语言进行了形式描述,并通过Objective-Z形式化工具进行了形式化证明。最后在OPNet仿真平台上建立了仿真场景,并进行了相关验证,结果表明该模型能有效解决QoS的映射问题。(3)针对异构无线网络中分布式安全认证问题,提出了一种基于单向HASH函数和LaGrange插值多项式组的(t,n)门限方案的随机密钥预共享安全引导模型,分为基于单向HASH函数和LaGrange插值多项式组的密钥预共享安全引导过程以及基于门限数字签名的密钥安全恢复协议的安全引导过程两部分。该模型由于采用了单向HASH函数,使得每个密钥分片的子密钥不会被公开,同时在密钥恢复协议的安全引导过程中引入了门限数字签名机制,可以有效防止和检测在密钥恢复或重组过程中的欺骗行为以及DoS攻击。实验中本文从模型的计算复杂度、引导过程的安全性、安全引导成功的性能、节点被俘后的网络恢复能力、网络对各种路由攻击的抵抗力以及支持的网络规模等方面进行了评价,结果表明该模型有较好的安全性。本文的研究工作对异构无线网络中,安全路由、QoS映射以及分布式身份认证所面临的主要挑战进行了分析,分别提出了相应的解决方案,有一定的理论意义和实际应用前景。