L1正則化

Ridge回帰、Lasso回帰、Elastic Net回帰についてのメモ。 本記事は「機械学習」における回帰分析という視点が強め。 Ridge回帰等と区別するため、最小二乗法による一般的な回帰分析を最小二乗回帰分析（ordinary least square：OLS）と呼ぶ。 本記事では Python の sklearn を用い、損失関数の計算式は scikit-learn 0.24.2 の仕様のものを記載している。 【目次】 はじめに① ～最小二乗回帰分析（ordinary least square：OLS）のおさらい～ はじめに② ～正則化法の導入～ Ridge回帰 Lasso回帰（Lea…