监督学习算法

  • 本文首发自公众号: RAIS ,点击直接关注。

前言

本系列文章为 《Deep Learning》 读书笔记,可以参看原书一起阅读,效果更佳。由于各平台 Markdown 解析差异,有些公式显示效果不好,请到我 个人维护网站 查看。

监督学习算法

监督学习算法的定义是,给定一组输入 x 和输出 y,学习如何将其关联起来,现在的大部分情况都是监督学习算法的范畴。

逻辑回归

很多的监督学习算法是基于估计概率分 布P(y|x) 的,假设参数服从高斯分布,我们可以使用最大似然估计找到对于有参分布族 P(y|x;θ) 最好的参数向量 θ,即用最大似然估计得到目标函数,优化这个目标函数。线性回归对应于高斯分布分布族,通过定义一族不同的概率分布,可将线性回归扩展到分类情况中。

具体的做法就是将线性函数的输出使用 sigmoid 函数(就是前文说的那个样子像 S 型)将其压缩到 (0, 1) 空间内,这就叫做逻辑回归。注意这个逻辑回归不是回归,而是用来解决分类问题。当然,线性回归也可以推广为 Softmax 回归,不是这里的重点。

支持向量机

支持向量机是监督学习中关于分类与回归问题中重要的算法。与逻辑回归类似,这个模型也是基于线性函数的,不过输出有所不同,不输出概率,而是输出类别,为正正类,为负负类。

核技巧,其实这是一个数学上的概念,用来增加维度区分不同数据,如下图,区分下图中左侧的四个点,用的方法是增加一个维度,然后用平面分割,这与用一条曲线去分割没什么本质的区别,来自 视频

上面这样做也会有一个问题,在数据量大且维数很多的情况下,会导致计算量急剧增大,这不好。核函数就是用来解决这个问题的,核函数只是用来计算映射到高维空间之后的内积的一种简便方法,隐含着也从低纬到高维的映射,但其计算量可控,降低计算的复杂度,甚至把不可能的计算变为可能,可以将低纬空间内线性不可分的两类点变成线性可分的。

机器学习中最常用的核函数是高斯核(也称径向基函数),N(x;μ,∑) 是标准正态分布,能够把原始特征映射到无穷维,能够比较 u 和 v 的相似度,映射到 0 和 1:

\[k(u,v)=N(u-v;0,\sigma^2I) \]

其他监督学习算法

临近回归:前面介绍过最近临近回归,这也是一种非概率监督学习算法。K-最近邻回归是一种可以用于分类或回归的算法,K-最近邻算法就是从训练集(根本就没训练,感觉叫训练集都不太准确,应该叫样本集)中找到与测试输入的点最近的 K 个点,然后采用少数服从多数的思想,谁多就听谁的(分类),或者求平均(回归),但是这在 K 取值不同的时候,得到的结果可能不同,因此 K 的选择是比较重要的。这个方法的特点是训练集可以趋近于无穷大,在比较好的情况下回收敛到贝叶斯错误率。这个方法需要训练集较大,训练集较少的情况下泛化程度不够好;且其由于几乎没有训练的过程,因此也不能学习出特征中哪些是更有识别力的,无法找到关键属性。

决策树:决策树会将输入空间分成不重叠的子区域,叶节点和输出区域一一对应。构建决策树前需要根据信息增益的方法进行特征选择,然后生成决策树,为防止过拟合可能还需要进行剪枝。

总结

本文介绍了几种最常见的监督学习算法。

  • 本文首发自公众号: RAIS ,点击直接关注。
我来评几句
登录后评论

已发表评论数()

相关站点

热门文章