Gradient Boosted Tree(GBDT)
利用一系列弱學習器(決策樹)組合成一個強學習器,以提升整體預測性能。
GBDT可以應用於分類、回歸和特徵篩選等任務,並且在許多領域都取得了顯著的效果。
利用梯度提升(Gradient Boosting)策略來訓練決策樹模型,通過反覆運算地添加新的決策樹來最小化損失函數。
優點
- 適用性強:既可以用於分類任務,也可以用於回歸任務
- 可解釋性強:由於是基於決策樹的演算法,GBDT具有很好的可解釋性,可以幫助理解數據和模型之間的關係
- 特徵篩選:在訓練過程中,GBDT能夠自動篩選出對模型預測最重要的特徵