スマートフォン用の表示で見る

正則化

サイエンス

正則化

せいそくか

Regularization。統計機械学習において、過学習を抑止する。Tikhonov正則化やLASSO(Least Absolute Selection and Shrinkage Operator)など。Tikhonov正則化パラメータが0を中心に正規分布しているという学習前の事前確率を意味する。

wをパラメータとすると、以下の式を誤差関数に加える。

Tikhonov正則化(L2正則化
¥frac{¥lambda}{2} w^2
LASSO(L1正則化
¥lambda |w|

Tikhonov正則化パラメータが0に近づくだけであるが、LASSOはパラメータが0になりやすいという効果がある。