第十一讲-SVM

支持向量机---最大化间隔问题

支持向量机也是一个分类模型

目的是找到分离各类数据点的最好的分界线（面），能够实现最大间隔（相对于支持向量来说）

• 每类中最近的点叫支持向量
• 非支持向量到决策面的距离都大于决策向量

下面是一个例题，和课后作业的内容很像:

考试需要掌握的内容：

支持向量机中的核技巧（The Kernel Trick）

面对非线性数据，使用复杂的模型把低维的样本映射到高维中，以此来实现线性可分

结论：如果数据映射的维度越高，就越有可能实现线性可分！

• The more dimension ϕ(x) has, the more likely ϕ(x) is linearly separable！

如果将 x 映射到无穷维，那么一定可以实现线性可分！

soft margin SVM and hard margin SVM

硬间隔SVM对于噪声过于敏感

软间隔SVM

Hinge loss

alt text