支持向量机是一类经典的分类算法, 它具有坚实的理论基础, 被广泛应用于文本分类、金融预测和图像分类等领域. 受支持向量机的启发, Mangasarian提出了一种基于广义特征值的近端支持向量机, 该算法构造两个分类超平面, 需要通过广义特征值问题进行求解. 受此启发, Jayadeva 等人提出了孪生支持向量机, 其主要思想是构造一对非平行的分类超平面, 并且满足每一个超平面靠近一类样本同时远离另一类样本. 从此, 非平行平面支持向量机分类算法逐渐成为研究热点, 最小二乘孪生支持向量机和投影孪生支持向量机是两种代表性算法. 然而它们仍存在许多不足之处, 如: 最小二乘孪生支持向量机在训练过程中具有较低的泛化性能而且存在矩阵奇异的可能性; 投影孪生支持向量机没有充分挖掘样本的信息且对噪声较为敏感, 导致模型的泛化性能和鲁棒性较差.同时, 投影孪生支持向量机的性能依赖于模型的参数且最优参数的参数选择较为困难.本文对最小二乘孪生支持向量机和投影孪生支持向量机进行改进, 分别提出了新的算法.本文的研究内容如下: 1.针对最小二乘孪生支持向量机具有较低的泛化性能和计算过程中可能出现矩阵奇异的问题, 引入双Fisher正则项和结构风险最小化原则, 提出了Fisher正则化的最小二乘孪生支持向量机分类算法. 实验结果表明, 该算法不仅具有较好的分类精度而且具有较快的运行速度. 2.针对投影孪生支持向量机未充分利用样本的结构信息和对噪声敏感的问题, 构造了L2损失函数, 在此基础上提出了基于L2损失的投影孪生支持向量机分类算法. 另外,将粒子群算法引入到 L2 损失的投影孪生支持向量机的构建过程中, 提出了基于粒子群算法的 L2 损失投影孪生支持向量机分类算法, 解决了参数选择困难的问题. 实验结果表明, 所提算法具有较好性能.
NETL
