GBDT

XGBoost の公式ドキュメントを見るたびに、毎回「どのような式変形でこの形になるのだっけ」となり、思い出すのに時間がかかる箇所があったので、備忘録としてまとめようと思います。 xgboost.readthedocs.io 式変形の箇所 「Tree Boosting」という見出しの中の「Additive Training」の部分です。 Additive Training ... We write the prediction value at step as . Then we have It remains to ask: which tree do we want at each ste…