随着无线通信技术的飞速发展，无线Ad Hoc网络的网络规模及其应用范围急剧扩大，且节点类型与网络形式多样化发展，使得无线Ad Hoc网络结构日趋复杂。因此，在实际建网之前完成网络性能评估，对于无线通信网络设计与优化具有极其重要的意义。然而，由于无线Ad Hoc网络具有无控制中心、分布式等特性，任意时刻发送节点间无序的、未经协调的信息传输会引起彼此之间的干扰，这些干扰使得影响Ad Hoc网络性能的重要因素已不再是SNR，而是SINR。另外，由于Ad Hoc网络的动态拓扑，并且多个发送机与接收机间信道的相互干扰，使得网络结构不能按照链路进行简单的分解，因此传统的基于点对点通信系统而建立的香农信息论已不再适用于无线Ad Hoc网络，探索出新的、更加合理的理论分析框架对无线Ad Hoc网络进行有效的性能评估是一项极其复杂并且亟待解决的问题。本文将以随机几何理论作为数学分析工具，围绕无线Ad Hoc网络的四种通信场景展开研究，旨在构建SINR/SIR分析模型，推导节点吞吐量、中断概率、成功传输概率、容量等传输性能指标，并在此基础上进一步探讨各种通信策略对无线Ad Hoc网络传输性能造成的影响，反映网络传输能力与各个网络参数之间的关系，最终为网络规划与优化奠定基础。本文的主要研究成果如下：首先，针对未授权频段内并存式Ad Hoc网络节点吞吐量性能展开研究。基于随机几何中散粒噪声模型，得到了AWGN信道及Rayleigh衰落信道下网络自干扰与互干扰的特征函数，基于此，推导了各个网络节点平均吞吐量的闭合表达式。为了降低干扰，进一步分析了在设置干扰保护区域时网络节点平均吞吐量性能：将网络累积干扰近似成高斯随机变量，利用随机几何理论分别得到了AWGN信道、Rayleigh衰落信道及Nakagami-m衰落信道下网络自干扰与互干扰的均值与方差，进而推导出设置干扰保护区域时节点平均吞吐量的闭合表达式。同时，假定多个Ad Hoc网络之间可通过集中控制的方式来协调各自的接入概率，采取了三种传输控制准则（最大和、最大-最小公平，比例公平）对推导结果进行了优化。仿真结果表明了理论推导的准确性，采用干扰保护机制下的节点吞吐量性能要优于未采用干扰保护机制，并且比例公平准则能够使得系统在高效性和公平性之间得到较好的均衡。随后，针对认知协作Ad Hoc网络中授权用户成功传输概率展开了研究。认知无线电系统中，由于认知用户存在频谱检测误差，将不可避免的对同时发起传输的授权用户链路造成干扰。当授权用户无法正确进行解码接收时，考虑从能正确检测的认知用户中选取唯一的节点作为授权用户的协作转发节点。基于此，分析了两种协作传输方案：基于距离的协作传输方案及基于SNR的协作传输方案。假设认知用户发送机位置是随机的，并且服从齐次泊松点过程，利用随机几何方法分别推导了这两种协作方案下授权用户成功传输概率的闭合表达式。仿真结果验证了理论推导的准确性，说明了基于SNR的协作传输方案具有较好的优越性，并且与不采用协作传输方案相比较，采用协作传输方案能够有效提高授权用户的成功传输性能。接着，针对节点具有多天线的多跳Ad Hoc网络场景，构建了一种新的评估网络容量及端到端时延的分析框架。将网络节点的空间分布建立成齐次泊松点过程，并将每条路由端到端的数据流传输建立成TASEP模型，假定每个节点采用SIMO模式进行通信，定义了度量该多天线多跳网络容量及端到端时延的性能指标。针对Rayleigh衰落信道，分别推导了三种不同路由选择策略（最近邻节点、最远邻节点、随机邻节点）下网络容量及端到端的时延的闭合表达式。根据数值仿真结果，分别探讨了节点密度、路由跳数、接收天线个数及SIR门限值对网络传输性能的影响。该研究对在实际多天线多跳网络设计中采用何种路由策略提供了很好的指导意见。最后，结合实际的调制方式与纠错编码方案，针对分组错误概率受限下的Ad Hoc网络传输容量进行了研究。将ALOHA协议下的SINR/SIR分析模型进一步推广到了非时隙ALOHA及CSMA协议中，并且基于不同的调制方式及纠错编码方案，结合CI功率控制方法，分析了在最大分组错误概率受限条件下系统中断概率及传输容量。数值仿真结果表明：最大传输容量的获得不仅与系统的调制方式、编码方案有关，还与单位区域内传输密度有关。在不同传输密度的条件下，选取合适的调制方式与编码方案，才能获得最佳的传输容量性能。