マルコフ連鎖モンテカルロ・シュミレーションを知る目的で本書を読みました。
豊田秀樹さん著書「基礎からのベイズ統計学 ハミルトニアンモンテカルロ法による実践的入門」は、MCMCの中のHMC法について理解する目的に合う本でした。
ベイズ統計学とHMC法を組み合わせると、モデル構成そのものに集中できるので、数式を解く煩わしさから解放してくれます。
ベイズ統計学については、豊田秀樹さんの著書「はじめてのデータ分析 ベイズ的＜ポストP 値時代＞の統計学」を読んでおくことをお奨めします。
第3章で事前分布の選択について、豊田さんはかなり慎重な扱いをされていますが、本書が書かれた2015年ならさもありなんでしょうが、2022年に大規模言語モデルLLMが登場して以来、人工知能のブラックボックス化が前提となっている近年は、有効な「帰納バイアス」はすでに容認されていると考えていいでしょう。
マルコフ連鎖については、「確率過程の遷移」を見ているわけですが、変化しなくなった確率分布Pの定常分布あるいは不変分布と呼ばれている状態への収束を見ていることになります。
収束までの期間がバーンイン期間です。
「詳細釣り合い条件」とは非平衡統計力学において、順方向と逆方向の遷移確率の釣り合いのことですから、定常状態とはエントロピー増大の終点を意味しています。
メトロポリス・ヘイスティング法（MH法）は、確率密度関数ｆ（θ）のパラメータがθ'からθへ移動してくる確率補正のアルゴリズムになっています。
MHアルゴリズムを利用することで、面倒な積分計算を巧妙に回避することができると豊田さんは述べています。
MH法には独立MH法とランダムウオークMH法があります。
ランダムウォークMH法の誤差分散が大きい場合に、1回の遷移における移動距離が長くなりすぎると、受容率が低くなるという問題が生じます。
そこで事後分布をオールマイティにシュミレートするためには、高次元空間で平均移動距離が長く取れて、同時に受容率を高く保てる必要がありました。そこで考案されたのがハミルトニアンモンテカルロ法（HMC法）です。
ハミルトニアン（Hamiltonian）は物理学におけるエネルギーに対する物理量です。
解析力学においてハミルトニアンは物体に有するエネルギーを「位置」と「運動量」で表現した関数であり、「運動の経路の予測」に利用されます。
例としてジェットコースターの軌跡を挙げています。
ポテンシャルエネルギーU（π）＝ F（τ）× 移動距離（τ）＝mgh（τ）
＝質量 × 重加速度 × 高さ
運動エネルギーK（τ）＝F（τ）× 移動距離（τ）
そしてポテンシャルエネルギーと運動エネルギーをあわせた力学的エネルギー（Mechanical Energy）は
H（τ）＝U（τ）＋ K（τ）です。
これをハミルトニアンと呼びます。
摩擦や空気抵抗などがない理想状態では、力学的エネルギーは保存され、物体は常にハミルトニアンが一定になるように運動します。
これを力学的エネルギー保存の法則と呼びます。
ポテンシャルエネルギーを統計学に利用するときは、平面を母数空間に対応させ、高さは負の対数確率に対応させます。
Ｈ（τ）＝ｈ（θ（τ））のように高さを平面座標で表現することが可能です。
物体の運動を予測するハミルトニアンの運動方程式では、時間の変化によらず常にハミルトニアンは一定ですから、微分すると０になります。
dH（τ）/ dτ＝０
運動エネルギーは運動量P（τ）の関数であり、ポテンシャルエネルギーは座標θ（τ）の関数だから、どちらも時間τの関数です。いろいろ式変形すると
ｄP（τ）/dτ= －ｄU（θ（τ））/dθ（τ）
ｄθ（τ）/dτ = dK(P(τ）/dP(τ）
これがハミルトニアンの運動方程式です。
さらに式変形すると
ｄP（τ）/dτ＝－ｈ'（θ（τ））
ｄθ（τ）/dτ= P(τ）
運動量の微小な移動は斜面の勾配の逆を意味します。
時間の経過に従って微分方程式を解き、経路を予測することを経路積分と呼びます。
位置と運動量を座標（直行軸）とする空間を位相空間と呼びます。
HMC法は遷移の距離を大きくして、なおかつ受容率を高め事後分布に従う乱数を得る方法と言えます。
乱数発生のアナロジーとして適当な物理空間に置いたビー玉を弾き一定時間の経過ののちに指で止めるという説明がされています。これを繰り返すことがT個の乱数を得ることを意味しています。
だいたいここまでがHMC法の理論説明になるでしょう。
ベイズ統計学では検定統計量を導出するのではなく母数そのものもしくはその関数に関して事後分布を評価します。
MCMC法を用いたベイズ推論では、伝統的な統計学における推測分布の枠組みであまり注目されることのなかったポアソン分布や指数分布、ガンマ分布といった正規分布以外の分布についても簡単に考察することができます。
本書ではさまざまな具体例を用いて、分析結果として
EAP（事後期待値）
Post.st（事後標準偏差）
95％下側確信区間
95％上側確信区間
を算出して分析しています。
私が実際にMCMCを行う機会はほとんどないと思います。
ただしMCMCは統計力学の中から生まれたことと、基本アルゴリズムは「ベイズ統計学」と「力学的エネルギー保存の法則」を応用していることが確認できたことは収穫でした。
無料のKindleアプリをダウンロードして、スマートフォン、タブレット、またはコンピューターで今すぐKindle本を読むことができます。Kindleデバイスは必要ありません。
ウェブ版Kindleなら、お使いのブラウザですぐにお読みいただけます。
携帯電話のカメラを使用する - 以下のコードをスキャンし、Kindleアプリをダウンロードしてください。
何か問題が発生しました。後で再度リクエストしてください。
よく一緒に購入されている商品
+
+
総額:
当社の価格を見るには、これら商品をカートに追加してください。
ポイントの合計:
pt
一緒に購入する商品を選択してください。
この商品をチェックした人はこんな商品もチェックしています
ページ 1 以下のうち 1 最初から観るページ 1 以下のうち 1
著者について
著者をフォローして、新作のアップデートや改善されたおすすめを入手してください。
