正則化

正則化

(サイエンス)
せいそくか

Regularization。統計機械学習において、過学習を抑止する。Tikhonov正則化やLASSO(Least Absolute Selection and Shrinkage Operator)など。Tikhonov正則化はパラメータが0を中心に正規分布しているという学習前の事前確率を意味する。

wをパラメータとすると、以下の式を誤差関数に加える。

Tikhonov正則化(L2正則化)
\frac{\lambda}{2} w^2
LASSO(L1正則化)
\lambda |w|

Tikhonov正則化はパラメータが0に近づくだけであるが、LASSOはパラメータが0になりやすいという効果がある。

ネットの話題: 正則化

人気

新着

新着ブログ: 正則化