机器学习算法速览表

机器学习算法速览表

---

1. 回归

• 普通最小二乘回归（OLSR）
• 线性回归
• Logistic回归
• 逐步回归
• 多变量自适应回归样条曲线（MARS）
• 局部估计散射平滑（LOESS）
• 折刀回归

2. 正则

• 岭回归
• 最少的绝对收缩和选择算子（LASSO）
• 弹性网
• 最小角度回归（LARS）

3. 基于实例的，基于记忆的

• k-最近邻（kNN）
• 学习矢量量化（LVQ）
• 自组织映射（SOM）
• 本地加权学习（LWL）

4. 降维

• 主成分分析（PCA）
• 主成分回归（PCR）
• 偏最小二乘回归（PLSR）
• Sammon映射
• 多维度缩放（MDS）
• 投影追求
• 判别分析（LDA，MDA，QDA，FDA）

5. 深度学习

• 深度玻尔兹曼机器（DBM）
• 深信仰网络（DBN）
• 卷积神经网络（CNN）
• 堆叠的自动编码器
• RNN

6.关联规则

• Apriori
• Eclat
• FP-Growth

7. 集成学习

• Logit Boost（Boosting）
• 自举聚合（Bagging）
• AdaBoost
• 堆叠泛化（混合）
• 梯度增压机（GBM）
• 梯度增强回归树（GBRT）
• 随机森林

8. 贝叶斯

• 朴素贝叶斯
• 高斯朴素贝叶斯
• 多项式朴素贝叶斯
• 平均一依赖估计量（AODE）
• 贝叶斯信仰网络（BBN）
• 贝叶斯网络（BN）
• 隐马尔可夫模型
• 条件随机字段（CRF）

9. 决策树

• 分类和回归树（CART）
• 迭代Dickotomiser 3（ID3）
• C4.5和C5.0
• 卡方自动交互检测（CHAID）
• 决策树桩
• M5
• 有条件的决策树

10. 聚类

• 单连接群集
• K-均值
• K-中位数
• 预期最大化（EM）
• 分层聚类
• 模糊聚类
• DBSCAN
• OPTICS算法
• 非负矩阵分解
• 潜在狄利克雷分配（LDA）

11. 神经网络

• 自组织映射
• 感知
• 径向基函数网络（RBFN）
• 反向传播
• 自动编码
• Hopfield网络
• 玻尔兹曼机器
• 限制玻尔兹曼机器
• Spiking神经网络
• 学习矢量量化（LVQ）

12. 其它算法

• 支持向量机（SVM）
• 进化算法
• 归纳逻辑编程（ILP）
• 强化学习（Q-Learning，时间差异，状态-行为-反馈-状态-行为（SARSA））
• ANOVA
• 信息模糊Netowkr（干扰素）
• Page Rank

---

参考文献：

https://www.hackingnote.com/en/machine-learning/algorithms/