当横向无界波导被辐射边界条件(radiation boundary condition)截断时,波导内的波传播计算就转化为有界波导内Helmholtz方程的数值解。辐射边界条件使波穿过边界向前传播,并且尽可能少地发生反射或折射。但是,Helmholtz算子的线性无关特征函数之间也会随着辐射边界条件的引入而不再具有交叉正交性。为了在Helmholtz算子的特征函数的基上快速计算其坐标,针对平坦界面情况,本文推导了Helmholtz方程对应特征算子的共轭特征算子,并理论证明了原特征算子的特征函数与共轭特征算子的特征函数之间的交叉正交性。针对弯曲界面情况,本文首先采用局部正交变换方法对坐标进行转换,从而将弯曲界面“拉直”。并在此基础上构造出共轭特征算子,同样理论证明了原特征算子的特征函数与共轭特征算子的特征函数之间的交叉正交性。对于数值模拟计算,为了方便起见,我们仅对平坦界面情况进行数值模拟。由于辐射边界条件含有特征参数,我们无法直接求解其特征模。因此,对于界面平坦的情况,我们将特征问题转化为非线性方程求解其特征模。由于平坦界面存在解析解,我们可以使用自适应高斯积分直接计算特征函数积分。实验结果验证了原特征算子的特征函数与共轭特征算子的特征函数之间的交叉正交性,数值结果验证了该方法的有效性。