大人になってからの再学習

2013-04-15 [情報数学]レーベンバーグ・マーカート法(Levenberg-Marquardt Meth

レーベンバーグ・マーカート法(Levenberg-Marquardt Method)


反復計算による最適化の手法には最急降下法、ニュートン法など基本的なものから、これらを改良した多くのアルゴリズムが存在する。

その中で、レーベンバーグ・マーカート法(またはレベンバーグ・マーカート法)(Levenberg-Marquardt Method)は、非線形最小二乗問題(非線形な関数の二乗和を最小とする問題)を解く手法として広く使われている。

このアルゴリズムの考え方を簡潔に説明したドキュメントを探してみた。

■ 岡谷貴之, バンドルアジャストメント, 情報処理学会研究報告
http://www.fractal.is.tohoku.ac.jp/okatani/pub/cvim.pdf
3章「最小化のための数値計算」で基本的な考え方が説明されていてわかりやすい。

■ Yahoo!知恵袋:Levenberg-Marquardt法(LM法)は非線形最小二乗問題を解く有力なアルゴリズムであ・・
http://detail.chiebukuro.yahoo.co.jp/qa/question_detail/q1277758592
ベストアンサーの解説が秀逸。考え方が理解しやすい。

■ レーベンバーグ・マーカート法を試す: wildpieの日記
http://d.hatena.ne.jp/wildpie/20120712
ライブラリ Eigen を使って、実際にレーベンバーグ・マーカート法を試してみた様子を紹介

数理最適化の実践ガイド (KS理工学専門書)

数理最適化の実践ガイド (KS理工学専門書)


これなら分かる最適化数学―基礎原理から計算手法まで

これなら分かる最適化数学―基礎原理から計算手法まで