向量机理论Р支持向量机的理论最初来自对数据分类问题的处理。对于数据分类问题, 如果采用通用的神经网络方法来实现, 其机理可以简单地描述为:系统随机产生一个超平面并移动它, 直到训练集中属于不同分类的点正好位于平面的不同侧面。这种处理机制决定了:用神经网络方法进行数据分类最终获得的分割平面将相当靠近训练集中的点, 而在绝大多数情况下, 并不是一个最优解。Р2018/11/15Р知识管理与数据分析实验室Р6Р支持向量机理论Р为此SVM考虑寻找一个满足分类要求的分割平面, 并使训练集中的点距离该分割平面尽可能地远,即寻找一个分割平面, 使其两侧的空白区域(margin)最大。Р2018/11/15Р知识管理与数据分析实验室Р7Р支持向量机理论Р在很多情况下, 训练数据集中的数据是线性不可分的, 这使得SV的应用受到了很大的限制。为了解决这个问题, Vapnik等人提出使用SVM作为超平面分割方法的扩展。使用SVM进行数据集分类工作的典型流程如图2所示。Р2018/11/15Р知识管理与数据分析实验室Р8Р支持向量机理论Р首先, 通过预先选定的一些非线性映射将输入空间映射到高维属性空间, 使得在高维属性空间中有可能对训练数据实现超平面的分割, 避免了在原输入空间中进行非线性曲面分割计算。SVM数据集形成的分类函数具有这样的性质:它是一组以SV为参数的非线性函数的线性组合, 因此分类函数的表达式仅和SV的数量相关, 而独立于空间的维度。在处理高维输入空间的分类时, 这种方式尤其有效。Р2018/11/15Р知识管理与数据分析实验室Р9Р支持向量机算法的发展Р模糊支持向量机?最小二乘支持向量机?加权支持向量机(有偏样本的加权,有偏风险加权)?主动学习的支持向量机?粗糙集与支持向量机的结合?基于决策树的支持向量机?分级聚类的支持向量机Р2018/11/15Р知识管理与数据分析实验室Р10
全文预览
