随着3G网络的发展与应用，移动通信系统所提供的服务与内容也急剧增多，在带给用户前所未有的体验的同时，也对移动通信网络的安全提出了更多的挑战。本文通过对目前占据主导地位的Android手机操作系统进行安全性研究，设计实现了一个Android端的入侵检测系统，以此来提高移动通信网络终端的安全性能。该系统采用C/S模式，可以有效解除手机终端硬件资源的约束，且使用了快速检测机制来对已知恶意软件进行高效准确的检测，对未知的软件首先使用基于角色的静态检测方法，若为不安全软件则进行下一步的基于行为的动态检测，对软件的安全性进行进一步的确认。该系统不仅检测效率较高且通过逐层检测使得检测的准确率也较高。同时，本文搜集了大量的恶意软件及普通应用程序样本，还通过与其他安全软件的对比来分析系统的效率、准确率及功能。从对比结果可看出，快速检测系统可以有效的对已知恶意软件进行快速检测，响应时间比较理想；静态检测系统的检测准确率平均在73%以上，相较于其他安全软件准确率要高些；动态检测系统在检测功能方面较为全面。在移动通信网络所面临的安全威胁中，除终端威胁外，最主要的便是无线接口处的安全威胁。本文通过对3G网络接入安全机制的分析可知3G网络可有效的避免非法用户的未授权接入，但却无法避免合法用户的网络内部攻击。针对于此，本文提出了一种基于ANN的入侵检测模型，并对其关键模块进行了设计与实现。该模型通过对用户的通信行为进行学习与训练，得出用户通信行为轮廓，用于检测合法用户的异常行为，避免合法用户对网络实施内部攻击，进一步提高移动通信网络的安全性。