【模式识别】 线性判别函数

线性判别函数/判定面

对于“判别函数”，我们指的是由$x$ 的各个分量线性组合而成的函数:

$$g(x)=w^tx+w_0$$

其中$w$为权向量， $w_0$为偏置项。

两类

我们利用$g(x)=0$ 定义一个判定面，它能够将两类点的分开来。当$g(x)$ 是线性时，我们就称之为超平面，一般用$H$ 表示。
不难发现$H$ 的法向量就是$w$ ,而其位置由$w_0$ 确定。
那么对于特征空间中任意一点，我们可以表示为：

$$x=x_p+r\frac{w}{||w||}$$ $$x_p$$ 是$x$ 在$H$ 上的投影， 而$r$ 是相应的算术距离。 由于$w$ 是$H$ 的法向量， 所以$w$ 和$$x_p$$ 正交，那么$$g(x_p)=0$$， 所以我们有： $$g(x)=w^t(x_p+r\frac{w}{||w||}) +w_0 = g(x_p) + r||w||=r||w||$$