/x)〉d2(x)并不能代表D/x)〉D2(x).如果以D/x),D2(x)作为判断标准，在非线性情况下||wj|,||w2||是无法求出的，故D/x),D2(x)是无法求得的。Р2.2OAO算法(one-Agains-onedecomposition)Р0A0方法是在每两类间训练一个分类器，因此对于一个k类问题，将有k(k一1)/2个分类函数。当对一个未知样本进行分类时，每个分类器都对其类别进行判断，并为相应的类别“投上一票”，最后得票最多的类别即作为该未知样本的类别。这种策略称为“投票法”。采用上述方法的多类SVMs，简称为OAOSVMs(One-Agains-One)算法。Р0A0方法是由Knerr提出的，该算法在K类训练样本中构造所有可能的两类分类器，每类仅仅在K类中的2类训练样本上训练，结果共构造K(K一1)/2个分类器.我们称该方法为OAO(one一against一one)方法.组合这些两类分类器很自然地用到了投票法，得票最多(MaxWins)的类为新点所属的类.U.Krebel用该方法训练多类SVM取得了很好的结果.OAO方法的优点是：其训练速度较OAA要快.OAO方法的缺点是：Р如果单个两类分类器不规范化，则整个K类分类器将趋向于过学习；Р推广误差无界；Р分类器的数目K(K一1)/2随类数K急剧增加，导致在决策时速度很慢。Р由于在决策时，此方法采用了投票法，有可能存在多个类投票相同的情况，即有可能存在一个样本同时属于多个类的情况，而使得此方法无法进行很好的决策.如图2所示，阴影部分的样本在l、2、3类的投票均为1,从而无法决策此区域的点属于哪一类。РРР图2One-Agains-One方法分类第二类方法尽管看起来简洁，但是在最优化问题求解过程中的变量远远多于第一类方法，训练速度不及第一类方法，而且在分类精度上也不占优。当训练样本数非常大时，这一问题更加突出。
全文预览
