对互联网流量进行精准的分类对网络控制管理、提高网络QoS等有着非凡的意义。随着互联网的飞速发展，传统的基于端口映射和基于载荷内容分析的流量分类方法已不能满足当前需求。由于单类支持向量机（OCSVM）理论对小样本、高维空间和不平衡数据集的分类有巨大优势，本文提出以单类支持向量机为理论基础的机器学习方法来实现流量分类系统。本文共分两个实验模块，具体如下：一个模块是针对所有类别流量的分类器：为了保证高精度和低误报警，在此模块中设计了改进的九模交叉验证法使性能评估结果更可靠；另一个模块是只针对DB、MAIL、SERV、WWW四种类别的流量检测器：首先通过FCBF法进行特征选择，在提高分类准确率的同时又大大减少了时间复杂度。其次，由于SVM分类模型的性能十分依赖参数选择，本文提出了基于OCSVM的粗细格网格搜索法和两个全局求优算法（动态惯性因子的粒子群算法与权重值模拟退火法）共三种参数求优算法；最后，使用求得的最优参数来设计基于支持向量机的流量检测系统，性能优异。