机器学习基础-支持向量机SVM
目录
基本概念和定义
1. 超平面(Hyperplane)
2. 支持向量(Support Vectors)
3. 线性可分
4. 边界
SVM算法基本思想和分类
基本思想
间隔最大化
间隔(Margin)
软边距 SVM
核函数的概念
理解
基本概念和定义
- SVM是一个有监督的机器学习模型
- 用于分类任务和回归任务
- 支持线性和非线性分类(SVC),下面以SVC展开
- 支持线性和非线性回归(SVR)
1. 超平面(Hyperplane)
- 作用:SVM 寻找的是能够最好地将不同类别分开的那个超平面。
2. 支持向量(Support Vectors)
- 定义:分类中距离超平面最近的数据点。
3. 线性可分
4. 边界
SVM算法基本思想和分类
基本思想
找到可以分隔不同类数据集的超平面(决策面),使得支持向量(特殊的点)距离该平面的距离最大
间隔最大化
指的是寻找一个能够将不同类别的数据点分开的超平面,并且这个超平面到最近的数据点(即支持向量)的距离最大。
间隔(Margin)
-
定义:间隔是指两个类别之间距离的最大间隔。具体来说,它是从超平面到最近的支持向量的距离的两倍。
软边距 SVM
在实际应用中,数据往往不是完全线性可分的,或者可能存在噪声。为了应对这种情况,引入了软边距 SVM,允许一些样本位于边距内或错误分类。