定义
Support Vector Machines(SVM) are learning
systems that use a hypothesis space of linear
function in a high dimensional feature space,
trained with a learning algorithm from
optimisation theory that implements a learning
bias derived from statistical learning theory.
Slide 6
Slide 6 text
high dimension version
为什么要扩展到高维?
linear function(Hyperplane)
g(x)=ωx+b
||ω||
目标:要找到最大的 ||ω||
等价于:就是找到最大的1/2||ω||2
关于ω:ω是由样本确定的。
ω = α
1
x
1
+α
2
x
2
+α
3
x
3
+... +α
n
x
n
α
i
是一个个数,称作拉格朗日乘子
如果把一个蓝点换成红点呢?
ω和类别有关!!
ω = α
1
x
1
y
1
+α
2
x
2
y
2
+α
3
x
2
y
2
+... +α
n
x
2
y
2
这些拉格朗日乘子,大部分都等于0,
少部分不等于0的(落在红蓝线上),就
是对ω有用的,唯一确定了分类函数,
就是支持向量。