随着移动通信技术的迅猛发展，现代通信对信息存储量、数据传输速率和保密性的要求越来越高，符合其要求的超宽带通信得到了广泛的应用。超宽带通信的应用对天线设计提出了更高的要求，即天线要具有3.1~10.6GHz的带宽，同时为了避免窄带系统和超宽带间的干扰，需要设计出具有陷波性能的超宽带天线。随着天线性能要求越来越高，它的结构变得更加复杂，传统的天线设计时极大依赖设计者的经验和理论，周期长，效率低下，优化时存在较大的盲目性，已无法满足超宽带天线设计的要求。本文结合HFSS和遗传算法的各自的特点，设计了一种基于HFSS和遗传算法设计优化超宽带陷波天线的方法，使天线能够实现自动优化设计。在编写优化程序的基础上，完成了三种超宽带陷波天线的优化设计与仿真分析。第一种为采用网格划分的矩形超宽带陷波天线，利用遗传算法优化矩形天线贴片，判断划分出的小矩形的去留，使经优化后的天线在3.1~11GHz的带宽内反射系数都小于-10dB，并在5.25~5.8GHz出现阻带，实现与WLAN协同通信；第二种采用“U”形寄生单元的康托集分形超宽带陷波天线，该天线结构采用康托集进行设计，使阻抗带宽达到2.95~11GHz，并利用遗传算法对“U”形寄生单元进行优化，避免超宽带对WLAN和X波段的干扰；第三种为开槽的圆形超宽带陷波天线，该天线阻抗带宽覆盖了超宽带整个频段，使用遗传算法程序对所开的槽的位置和尺寸进行优化，使天线具有不同的阻带，分别能与WLAN，WiMAX和X波段协同通信，验证了基于HFSS和遗传算法的优化设计天线方案的有效性和可行性。