基于IEEE 802.16无线城域网协议的WiMAX系统，着眼于解决城域网中“最后一英里”的宽带无线接入问题，由于其易于配置，容易扩展，维护和更新成本较低等优点而得到了广泛的关注。在WiMAX系统中，由于可用频谱资源非常稀缺，如何有效的利用频谱资源并提高系统的容量是当前WiMAX无线组网比较关注的问题。本论文从频率复用以及网络结构的角度研究了WiMAX系统中的组网问题。 论文首先对WiMAX系统的演进、技术特点、网络构架等方面作了简要介绍，然后阐述了无线组网技术的目的，并介绍了扇区、频率复用以及网络结构等组网技术。 从频率复用角度，分析了前人利用PUSC/FUSC方式子载波组网的几种方案，并在此基础上提出了一种将PUSC方式子载波划分为四段的软频率复用方案。该方案能有效的提高系统下行链路的容量，不足之处在于该方案减少了下行链路中供边缘用户使用的子信道个数，在边缘用户特别多的时候，导致一些用户等待时间较长，在一定程度上降低了系统公平性。为此，我们在软频率复用方案的基础上进一步提出了一种适用于WiMAX的软容量组网方案，该方案保证了一定的系统公平性，并能增大系统的容量，使得组网更加的灵活。 从网络结构的角度，研究了分布式天线系统在容量、功率以及中断概率方面的性能特点。然后探讨了其在WiMAX三扇区结构中应用的可能性。研究的结果表明，在WiMAX系统中，相对于集中式天线系统，不论子载波采用PUSC方式还是FUSC方式，分布式天线系统都能极大的增加系统容量，改善信号载干比。