使用Python实现支持向量机,代码思路来源于机器学习实战。
构建分类器,寻找一个超平面(hyperplane), 使得距离分割超平面最近的点和分割超平面的间隔(margin)尽可能远。使分类器尽可能健壮。支持向量(support vector)就是离分割超平面最近的那些点。 分割超平面的对应方程为w****x+b=0, 它由法向量w和截距b决定。点到超平面的距离为|w****A+b|/||w||。w****x表示w和x的内积。
计算数据点到分割面距离并确定分割面的放置位置, 间隔:label * (w****x+b)。label=1或-1。
最小间隔最大化: