第十二讲 ensemble learning

Ensemble learning

bagging

bagging 主要实现的效果是降低模型的高方差

类似并行决策模型

Bagging is ineffective when the model is too simple with a small number of parameters

boosting

boosting 主要实现的效果是降低模型的高偏差

类似串行决策模型

Boosting trains weak learners one after one to solve the problem step by step

AdaBoost

AdaBoost (Adaptive Boosting) is a famous boosting approach

adaboost有个例题,需要看一下,熟悉计算过程:

  • 对于每个弱学习器,先计算错误率
  • 根据错误率计算模型权重 α
  • 根据模型权重 α 计算各个参数的权重
  • 循环

集成学习总结:bagging 和 boosting


第十二讲 ensemble learning
http://jrhu0048.github.io/2024/12/27/ji-qi-xue-xi/di-shi-er-jiang-ensemble-learning/
作者
JR.HU
发布于
2024年12月27日
更新于
2024年12月27日
许可协议