Butler矩阵作为一种重要的多波束天线的波束形成网络,可以形成多个相互正交的波束,具有结构简单、平衡,低成本等优点,在无线通信和现代雷达系统中具有广泛的应用。但是传统的Butler矩阵只能够实现2n个波束,使其应用受到限制。本论文基于非2n点FFT对非2n Butler矩阵进行了详细的研究,具体工作如下:（1）基于快速傅里叶变换（FFT）,提出了一种最优非2n Butler矩阵设计方法。相比于现有的非2n波束形成网络,该方法设计得到的Butler矩阵所用到的耦合器个数最少。首先根据FFT的信号流图得到Butler矩阵的网络结构;然后根据得到的网络结构写出该Butler矩阵的传输矩阵;再根据天线阵列方向图公式推导得到Butler矩阵的目标矩阵;然后利用网络矩阵与目标矩阵相等求解Butler矩阵中所用到的耦合器等器件的幅度及相位关系;最后设计Butler矩阵中所用到的耦合器等器件,并按照上述得到的网络结构进行连接,用仿真软件进行微调得到最终的Butler矩阵。（2）设计了一个中心频率为5GHz的5×5 Butler矩阵。将已有文献中的5点FFT信号流图逐步简化等效为仅由蝶形结构构成的网络,从而得到5×5 Butler矩阵网络结构。根据本文提出的非2n Butler矩阵的设计方法逐步设计。最后,采用正交分支线耦合器、微带形式的跨接器以及微带蛇形线对5×5 Butler矩阵的设计进行仿真验证。利用仿真软件HFSS进行优化仿真,输出端口等幅度输出,相位差分别为:-144°,-72°,0°,+72°,+144°。加工了该5×5 Butler矩阵并测试了其性能,测试结果与仿真结果较为吻合。利用该5×5 Butler矩阵对1×5微带贴片天线阵列馈电,测试天线方向图,得到五个不同方向的波束,指向分别为:-44.5°,-23°,0°,22°,45.5°。（3）设计了一个中心频率为5.1GHz的6×6 Butler矩阵。由于N=6是一个合成数,可以拆分为N=2×3,利用混合基FFT算法可以得到:6点FFT的信号流图可以由3个2点FFT信号流图和2个3点FFT信号流图构成。采用6点FFT的信号流图得到6×6 Butler矩阵的网络结构。根据本文提出的设计方法进行设计后,同样采用正交分支线耦合器、微带形式的跨接器以及微带蛇形线来仿真验证6×6 Butler矩阵的设计,利用Ansoft HFSS仿真、优化。该6×6 Butler矩阵的输出端口具有等幅度信号输出,且相位差分别为-150°,-90°,-30°,+30°,+90°,+150°。并对该6×6 Butler矩阵进行加工和测试,测试表明其性能与仿真和分析基本一致。设计一个1×6的微带贴片天线阵列与6×6 Butler矩阵连接,最后测得6个波束的偏角分别为:-47°,-26°,-9°,10°,28°,47°。