传统介质中的调制不稳定性已获得了广泛深入的研究，而新背景下调制不稳定性的产生意味着产生和控制光孤子以及设计新型光电子器件的新思路新方法。异向介质作为一种新型的人工合成介质，与传统光学介质的最大差异在于前者本质上是磁性的，而且其色散的磁导率所引起的各阶非线性色散项将对光传输新特性的产生起着很关键的作用。而目前研究异向介质中调制不稳定性时涉及到的非线性色散只考虑到一、二阶项，尚未见考虑三阶项的报道。本文直接从异向介质中包含三阶非线性色散效应的非归一化扩展非线性传输方程出发，利用无损耗德鲁德电磁模型，根据标准的线性稳定性分析法，导出了调制不稳定性的色散关系、不稳定条件和增益谱。考虑到方便今后的实验验证，本文以实际单位而非无量纲形式计算了传输方程的系数随归一化角频率的变化规律。然后在此基础上分负折射和正折射区也以实际单位的形式计算并讨论了调制不稳定增益谱随归一化角频率的变化关系。结果表明：无论在正还是负折射区，三阶非线性色散系数均为正值，而调制不稳定性只能发生在二阶线性色散系数和三阶非线性系数异号的情形；增益谱谱峰和谱宽随随归一化角频率而变；相比较而言，三阶非线性色散的存在不利于调制不稳定性的产生。