檜山正幸のキマイラ飼育記 このページをアンテナに追加 RSSフィード Twitter

キマイラ・サイトは http://www.chimaira.org/です。
トラックバック/コメントは日付を気にせずにどうぞ。
連絡は hiyama{at}chimaira{dot}org へ。
蒸し返し歓迎!
このブログの更新は、Twitterアカウント @m_hiyama で通知されます。
Follow @m_hiyama
ところで、アーカイブってけっこう便利ですよ。

2017-02-28 (火)

「確率変数」の正体は米田埋め込み

| 19:04 | 「確率変数」の正体は米田埋め込みを含むブックマーク

確率変数(random variable, stochastic variable)という言葉の意味が分からない! と何度か書いています。

結局分からないままでした。「慣れ」の問題かも? と思ったこともあります。

慣れることも出来ませんでした。

最近、「これなら納得できるかな」という解釈に出会いました。

[追記 date="翌日"]最後に分かりやすいマトメを付けました。[/追記]

内容:

  1. 「確率変数」はなぜ分からないのか
  2. アレックス・シンプソンのアイディア
  3. 「確率変数」の2つの用法
  4. 確率空間と圏Prob
  5. 測度論的確率変数
  6. 曖昧な確率変数
  7. 前層と米田埋め込み
  8. 米田埋め込みとしての確率変数
  9. [追記 date="翌日"]記法を中心としたマトメ

補足もあります。

「確率変数」はなぜ分からないのか

「確率変数とは、ランダムな値を取る変数」とか、“定義”として出されますが、これじゃ何のことだかサッパリ分からない! 意味がハッキリした定義として「確率空間からの可測写像」というのがあります。しかし、実際の用法として「確率変数」を常に「可測写像」として使っているとは思えないのです。

誤解されないように言っておくと:「確率変数」という言葉を使う前に「確率空間」を定義すべし、とか、そんなことを主張する気はサラサラありません。確率空間の厳密な定義がなくて「確率変数」を使ってもいいのですが、その使用状況において背後の確率空間を想定可能かというと、どうも無理なのです。暗黙にさえ、背後の確率空間なんて想定してない気がします。

例えば、「普通の変数」を「確率変数」に変更することがあります。変数xが実数直線R上を走る変数だとして、これを「確率変数にします」とかやるわけです。同じ文字xを確率変数にそのまま使う場合もあれば、親切な著者は区別して大文字Xにしたりします。「普通の変数x → 確率変数X」という変更は、実際のところいったい何をしているのでしょう?

「普通の変数x → 確率変数X」の変更の際に、確率空間 A = (ΩA, ΣA, μA) を持ち出して、X:ΩAR (可測写像)という解釈なら納得もできるのですが、確率空間など(暗黙の想定にさえ)一切登場しません。変数が走る変域はRだけで、「R上の普通の変数x」が「R上の確率変数X」に突如変身するのです。変身した後のXとは、どこから来た何者なんでしょうか?(追記した最後の節に、種明かしがあります。)

アレックス・シンプソンのアイディア

アレックス・シンプソン(Alex Simpson: Edinburgh, Ljubljana)のこの動画をたまたま見つけました。

実は、動画をちゃんと見てるわけじゃありません。検索で引っかかった"Probability sheaves"というタイトルを見て「あっ」と思いました。タイトルだけでシンプソンのアイディアはだいたい予想が付きました。英語は聞き取れないし、確率論のテクニカルな内容は理解できないので、とりあえず動画の何箇所かで板書を眺めて、予想が見当ハズレでもないだろうと確認(?)しただけです。

という次第で、シンプソンの考えを僕が誤解している可能性もありますが、「確率変数を層(sheaf)とみなす」という基本アイディアは外してないと思います。ここでは、層とみなすのは面倒なので、「確率変数=前層(presheaf)」として、シンプソンのアイディアを紹介します。

「確率変数」の2つの用法

まず、「確率変数」という言葉の用法(使い方/使われ方)を2つに分類します。1つは測度論的用法で、「確率変数=確率空間からの可測写像」という定義に基づく用法です。測度論的な定義では解釈が困難で、代替の解釈もない場合を「曖昧な用法」と呼ぶことにします。

測度論的用法は意味が明らかだし、その意味に基づいて言葉を使っているなら曖昧性もありません。つまり、特に問題はないということです。この世の用法が測度論的用法であるか、背後に測度論的用法があると想定できるなら僕もフラストレーションを感じないでしょう。しかし、いきなり「R上の変数を確率変数に変更する」ことがあったりするので、モヤモヤ・イライラするのです。

以下では、シンプソンのアイディアに基づき「曖昧な用法」に解釈を与え、測度論的用法と曖昧な用法の関係にも言及します。

確率空間と圏Prob

確率空間を、A = (ΩA, ΣA, μA) のように書くことにします。

  • ΩAは集合、Aの台集合(underlying set)と呼ぶ。
  • ΣAは、ΩA上のσ集合代数(可算加法族)。
  • μAは、(ΩA, ΣA)上の実数値測度で、μAA) = 1

ΩAは標本空間(sample space)と呼ぶことが多いと思いますが、可測写像の値の空間(余域)のほうを標本空間と呼ぶ人もいるので、単に台集合と呼んでおきます。

実用上は、ΩAが単なる集合では不便で、タチの良い位相空間(ポーランド空間とか)を使うようです。その場合、ΣAは位相から作られたボレルσ集合代数にします。可測写像だけでなく連続写像なども考えることができるので、使える道具が増えるわけです。しかし、今ここでは位相構造は考えないことにします。

確率空間 A = (ΩA, ΣA, μA) があると、(ΩA, ΣA)は可測空間なので、確率空間の概念には可測空間の概念が含まれています。そのため、確率空間A, Bに対して、可測写像 f:ΩA→ΩB を定義できます。Aの確率測度μAに対して、可測写像fによる前送り測度 f*A) を次のように定義できます。

  • S∈ΣB に対して、 (f*A))(S) := μA(f-1(S))

可測写像 f:ΩA→ΩB が、f*A) = μB のとき確率を保存する写像と言います。

確率空間を対象として、確率を保存する写像を射とする圏を定義できます。この圏をProbと書きます。ただし、確率を保存する写像が測度0の集合でしか違いがないなら同一視します。圏ProbのホムセットProb(A, B)は、確率を保存する(可測)写像の集まりではなくて、「測度0の集合を除いて一致する」という同値関係で割った集合(商集合)です。したがって、圏Probの射は、可測写像の同値類です。(より詳しくは「合同を持つ圏と測度空間の圏」を参照。)

測度論的確率変数

Probを使って、「確率変数」という言葉の測度論的用法を整理しておきましょう。

Aが確率空間で、V = (ΩV, ΣV) を可測空間とします。V側にはとりあえず測度が載っていません。ΩAからの可測写像 X:ΩA→ΩV測度論的確率変数と呼びましょう。

Xが測度論的確率変数のとき、確率空間A上の確率測度μAをXで前送りしたX*A)は、可測空間(ΩV, ΣV)上の確率測度になります。そこで、μV := X*A) として、(ΩV, ΣV, μV)を作ると、これは確率空間になります。この確率空間を同じ文字Vを使って V = (ΩV, ΣV, μV) と書きます。

可測写像Xを、あらためて確率空間のあいだの写像 X:A→V とみなすと、測度論的確率変数Xは、圏Probの射とみなせます。正確に言えば、Xの同値類[X]をProb(A, V)内で特定することになります。この操作により、測度論的確率変数は、圏Probの射と同一視可能です。

以上述べたことから、「確率変数」の測度論的用法に関しては、「確率変数とは、圏Probの射である」という意味付けができました。

「確率変数は分布を持つ」といった言い方も、X:ΩA→ΩV により誘導されたV側の確率測度 μV = X*A) のことを「Xの分布」と呼ぶなら解釈可能です。確率測度μVが確率密度gで定義されるなら、測度μVと密度gを意図的に混同した上で、「Xの分布がg」「Xは分布gを持つ」とかも、まーなんとか解釈可能です。

曖昧な確率変数

さて、問題は「確率変数」の曖昧な用法です。背後の確率空間や可測写像は何も想定せずに「確率変数X」という言葉を使うとき、どう解釈するか? です。

Xの定義域である確率空間が仮定も想定もされない場合でも、Xの“値の空間”は想定しています。例えば、実数直線Rとか、ユークリッド空間Rnの部分領域とかが値の空間とされます。値の空間がVである確率変数をRandVar(V)と書くことにします。ただし、今は記号を定めただけで、RandVar(V)が何であるかは不明です。RandVar(V)は、「Vを値とする確率変数」を記号的に書いただけです。

曖昧に「確率変数」と言うときでも、値の空間V上の分布(=確率測度)を云々することから、Vは確率測度を備えた確率空間と考えていいでしょう。つまり、RandVar(V)のVは確率空間です。となると、RandVar(-)は、引数に確率空間を取って意味を持つような何か、と思えます。

ここで、測度論的確率変数を思い出すと、測度論的確率変数Xには、定義域である確率空間が指定されていました。X:A→V ですね。ところが、曖昧な確率変数Xでは定義域である確率空間が指定されていません。この食い違いを吸収するために、次のように考えることにします。

  • 曖昧な確率変数Xにおいて、定義域である確率空間や具体的な可測写像が指定されないのは、何も考えないのではなくて、何が来てもいいような準備・構えだけをしているのだ。

つまり、特定の確率空間Aが与えられれば、Aからの測度論的確率変数(=確率を保存する可測写像)を考える準備はあるのです。記号Xは、実は確率空間で埋めるプレースホルダーを持っていて、Aが与えられると測度論的確率変数XAが定まる(と考える)のです。

測度論的確率変数XAが走る領域は、Aを定義域としてVを値の空間とする確率保存可測写像の全体です。つまり、圏ProbのホムセットProb(A, V)です。この事実は、次のように書けます。

  • XAProb(A, V)

あるいは、変数XAの型はProb(A, V)だ、ということを型理論の記法で書けば、

  • XA:Prob(A, V)

確率空間Aを未定のプレースホルダー(無名変数)に戻すと、

  • X-:Prob(-, V)

となります。ハイフンがプレースホルダーです。

X-Prob(-, V)がプレースホルダーを持っているとなると、RandVar(V)もプレースホルダーを持っていると考えるべきでしょう。RandVar(V)(-) で、二番目の括弧がプレースホルダー部分です。ここに具体的な確率空間Aが入ると、RandVar(V)(A) = (RandVar(V))(A) となり、「Vを値とする(曖昧な)確率変数」が、定義域であるAにより具体化されることになります。

こうなると、RandVar(V)(-)はProb(-, V)の別表記に過ぎないことになります。

  • RandVar(V) = RandVar(V)(-) = Prob(-, V)

前層と米田埋め込み

前節の最後に出てきたProb(-, V)は、圏Prob米田埋め込み(Yoneda embedding)です。このことを理解するために、前層と米田埋め込みを簡単にまとめておきます。

Cが圏のとき、Cの反対圏Copから集合圏Setへの関手の圏[Cop, Set]を、C前層(presheaf)の圏と呼び、PSh(C)と書きます。PSh(C)の対象が前層です。つまり、前層とはCopSetの関手に過ぎません。

PSh(C) = [Cop, Set] は、CからSetへの反変関手(と自然変換)の圏と言っても同じです。共変関手の圏[C, Set]を考えてもいいのですが、歴史的事情と反変関手が出現することが多いことから、反変関手のほうを主に扱います。共変関手の圏[C, Set]は余前層(copresheaf)の圏と呼ぶようです。

Z∈|C| に対して、C(-, Z) は前層になります -- これは、H(-) := C(-, Z) と置いて、HがCからSetへの反変関手になればいいのですが、それは次のようにして分かります。

  • X∈|C| に対して、H(X) = C(X, Z)。C(X, Z)は集合なので、Hは |C|→|Set| の対応を定める。
  • f:X→Y in C に対して H(f):H(Y)→H(X) を決めればよいが、u∈H(Y) (H(Y) = C(Y, Z))に対して、(H(f))(u) := f;u とする。(f;u):X→Z in C なので、(f;u)∈H(X) (H(X) = C(X, Z))。
  • H(f;g) = H(g);H(f), H(idX) = idH(X) は定義に従い確認できる。

特定の Z∈|C| に対してC(-, Z)が前層(=集合圏への関手)になることがわかりました。これは、Z|→C(-, Z) という対応が、|C|→|PSh(C)| という写像になっていることです。f:Z→W in C に対して、自然変換 C(-, f)::C(-, Z)⇒C(-, W):CopSet も定義できます。ξ = C(-, f) と置きましょう。

  • X∈|C| に対するξのX成分 ξX:C(X, Z)→C(X, W) in Set は、u∈C(X, Z) に対して、ξX(u) := u;f と定義する。
  • ξの自然性は、定義に従い確認できる。

さらに、C(- f;g) = C(-, f);C(-, g) と C(-, idZ) = ιC(-, Z) が分かります。ここで、最初の等式右辺の「;」は自然変換の縦結合、ιFは関手Fに対する恒等自然変換です。

以上をまとめると、(xはCの対象または射 |→ C(-, x)) という対応は、CからPSh(C)への関手となります。圏Cを与えるごとに (x |→ C(-, x)):C→PSh(C) が決まるので、(x |→ C(-, x)):C→PSh(C) をC米田埋め込みと呼び、yCと書きます。

米田埋め込み yC:C→PSh(C) が実際に圏の埋め込みとなることは、米田の補題から言えます。

米田埋め込みとしての確率変数

曖昧な用法としての「確率変数」とは、確率空間と確率保存可測写像の圏Probに対する米田埋め込みだと解釈してみましょう。つまり、

  • RandVar := yProb : Prob→PSh(Prob)

そうすると、「確率変数」の不明さ/曖昧さ/分かりにくさがある程度説明が付きます。

  • 曖昧な用法の「確率変数」が分かりにくく、マトモな説明がないのは、それが非常に高階な存在物だから。
  • 曖昧な用法の「確率変数」でも、値の空間は明示するのは、米田埋め込み yProb(-) の引数(ハイフンの所)が“値の空間”を要求するから; RandVar(V) = yProb(V) = Prob(-, V)
  • 曖昧な用法の「確率変数」では、定義域である確率空間が明示されないのは、RandVar(V) = RandVar(V)(-) = Prob(-, V) の引数(ハイフンの所)の具体化(束縛)を遅らせてもいいから。

「Xは、Vを値とする確率変数である」という言明の背後には次のような暗黙の前提が含まれていることになります。

  • 値の空間Vは、単なる集合や位相空間ではなくて、確率空間である。Vの確率測度μVを「Xの分布」と呼ぶ。
  • もし、特定の確率空間 A = (ΩA, ΣA, μA) が指定されれば、圏Probのホムセット RandVar(V)(A) = Prob(A, V) として、測度論的確率変数(=確率保存可測写像)の集合が確定する。だが、Aを最初から指定する必要はない。
  • 変数記号Xには、プレースホルダー(パラメーターが入る場所)があり、X-という形をしている。プレースホルダー(ハイフン)に特定の確率空間Aが入ると、XAは RandVar(V)(A) = Prob(A, V) 上を走る変数と解釈できる。
  • f:V→W が圏Probの射(確率保存可測写像)のとき、f(X)は、任意のAに対する (XA;f):A→W の意味であり、fをRandVar(V)からRandVar(W)への自然変換とみなしている。
  • つまり、「確率変数の関数」とは、確率保存可測写像から誘導される「関手(前層)のあいだの自然変換」である。

確率・統計の最初のほうに出てくる概念である「確率変数」に対して、なんで米田埋め込みを持ち出さなくてはならないのだ? と疑問を感じるかもしれませんが、その答は簡単です。それ以外にマトモな定義・解釈が(今のところ)ないからです。

[追記 date="翌日"]記法を中心としたマトメ

冒頭の「普通の変数x → 確率変数X」という変更を、記法(書き方)を順次変えながら説明します。最終的に測度論的確率変数に行き着きます。

型理論では、変数xの型(変域)がVであることを、x:V と書きます。変数xが普通の変数である(確率変数ではない)ことを強調するために、次のように書きましょう。

  • x:Var(V)

「xはVを変域とする変数だ」と読めます。普通の変数の変域Vには特に構造を要求しません。もちろん、構造を持っていてもかまいません(特に言及しないだけ)。

XがV上の確率変数ならば、次のように書きます。

  • X:RandVar(V)

「xはVを変域とする確率変数だ」となります。この記法が意味を持つためには、Vが確率空間(ΩV, ΣV, μV)でなくてはなりません。確率測度μV(またはその密度)を、「Xの分布」と呼びます。

XにもRandVar(V)にも、プレースホルダー(パラメーターを入れる場所)があるとして、それをハイフンで表します。

  • X-:RandVar(V)(-)

プレースホルダーに入れられるモノは確率空間です。A = (ΩA, ΣA, μA) を確率空間とします(A = V でもかまいません)。Aをプレースホルダーに入れると:

  • XA:RandVar(V)(A)

RandVar(V)(A) = (RandVar(V))(A) の意味は、圏ProbのホムセットProb(A, V)だったので:

  • XA:Prob(A, V)

集合論的解釈をすると:

  • XAProb(A, V)

XAがホムセットに所属しているということは、XAは圏Probの射なので:

  • XA:A→V in Prob

Probの射、すなわち確率保存可測写像は、測度論的に解釈した確率変数なので:

  • XAは、Aで定義されVに値を取る測度論的確率変数である。

以上のプロセスにより、V上の普通の変数xを確率変数Xに変えることは、Vの確率空間構造を特定して、任意の確率空間Aに対するV値の測度論的確率変数(を表す変数*1)XAを考えることだと分かりました。このプロセスを系統的に行うメカニズムが米田埋め込みです。


補足もあります。

*1:測度論的確率変数は可測関数ですが、XAはその可測関数の空間の上を走るので、正確には「確率変数を表す変数」となります。

kikkik 2017/02/28 22:22 言われてみると確かに。
分布は確率変数を人間が観察して得られる局所的な情報で、それらを貼り合わせて大域的なものにするという抽象的な操作をして初めて確率変数になると思えば、層に見えるような気がしてきました。
ωの関数とするのは単に当時の数学のテクニカルな実現の都合なだけで、本質的ではなさそうですね。

mmmm 2017/02/28 22:30 僕は、圏論の知識は全く持ち合わせていないのですが、
圏を使わなくても
台集合Ωと、X(ω)の形がわかってしまえば、基本的に
確率空間はそこから構成可能なので、先に確率変数を与えてしまっても問題はないということであると思います。
実際に、Ω, X(ω)が与えられれば
{X^-1(A) ; A∊Borel集合体}によって、σ集合体が構成できますし
確率測度に関しては、分布関数が与えられていればそこから構成できることが証明されているので、問題はないように思えましたがどうでしょうか?

m-hiyamam-hiyama 2017/03/01 08:54 kikさん、
> ωの関数とするのは単に当時の数学のテクニカルな実現の都合なだけで、本質的ではなさそうですね。
そう思います。圏Probの射が古典的写像か?というと、そうである必要はないし、そうではない気がします。
テレンス・タオの代数的確率論などでも、代数構造を先に与えてそのスペクトルとして確率空間を構成(または再現)しているので、確率論も代数幾何っぽい定式化に向かうのかも知れません。

m-hiyamam-hiyama 2017/03/01 08:55 mmさん、
本文より> 測度論的用法は意味が明らかだし、その意味に基づいて言葉を使っているなら曖昧性もありません。つまり、特に問題はないということです。
測度論的に議論できることは問題にしていません。「定義域が未定な可測関数」のような、測度論的解釈が困難な概念に圏論的解釈を採用しています。