勾配ブースティング

勾配ブースティングについて勉強している過程で、「統計的機械学習の基礎」の10.9節を読みました。本節は、数式も多く理解に時間がかかりました。再度本節を読んだときに、すっと頭に入ってくるように記事にまとめておきたいと思います。 本記事のサマリ 本記事では、10.9節のサマリと（10.32）式の導出方法を記載します。また、補足的に決定木の場合、なぜが推定できるのかについても述べたいと思います。なお、本記事の数式中に現れる文字の説明はしません。適宜、原本をご覧ください。 統計的学習の基礎 ―データマイニング・推論・予測―作者:Trevor Hastie,Robert Tibshirani,Jerom…