imHo RSSフィード

2011-10-23

AI class 3. Probability in AI

https://www.ai-class.com/

ビデオ見ただけじゃわからんね…

■独立

  • X⊥Y: P(X)P(Y) = P(X, Y)
  • P(X2=H) = P(X2=H|X1=H) P(X1=H) + P(X2=H|X1=T) P(X1=T)

■Total Probability

  • P(Y) = Σ P(Y|X=i) P(X=i)
  • P(~X|Y) = 1 - P(X|Y)

  • P(X, Y) = P(X|Y) P(Y)

ベイズルール

  • P(A|B) = P(B|A) P(A) / P(B)
    • P(B) = Σ P(B|A=a) P(A=a)

P(B) を計算するのは一般的に難しいので、分子だけ計算してあとで Normalize する

  • P'(A|B) = P(B|A) P(A)
  • P'(~A|B) = P(B|~A) P(~A)
  • => P(B) = P'(A|B) + P'(~A|B)

■条件付き独立 (Conditional Independence)

  • T1 <- C -> T2
  • P(T2|CT1) = P(T2|C)
    • Cである条件のもとで、T1を条件に付け加えても変わらない
  • Given A, B⊥C
  • B⊥C|A
    • B⊥C|A ≠ B⊥C
  • P(T2|T1) = P(T2|T1,C) P(C|T1) + P(T2|T1,~C) P(~C|T1)
    • = P(T2|C) P(C|T1) + P(T2|~C) P(~C|T1) (条件付き独立を適用)
  • P(C|T1T2) = P(T1T2|C) P(C) / P(T1T2) (ベイズルール)
    • = P(T1|C) P(T2|C) P(C) / {P(T1T2|C) P(C) + P(T1T2|~C) P(~C)}

■■例題

  • P(C|+):テスト結果が+だった時、ガンである確率
  • P(C|++):2つの条件付き独立のテストT1とT2が両方とも+だった時、ガンである確率
  • P(T2=+|T1=+):1つ目のテストが+だった時、2つ目も+である確率

■Explaining Away

  • S -> H <- R
  • P(R|H,S) = P(H|R,S) P(R|S) / P(H|S) (どうやって変換したのかわからん)
    • = P(H|R,S) P(R) / {P(H|R,S) P(R) + P(H|~R,S) P(~R)} (RとSが独立)
  • P(R|H) = P(H|R) P(R) / P(H) (ベイズルール)
    • P(H) = P(H|S,R) P(S,R) + P(H|~S,R) P(~S,R) + P(H|S,~R) P(S,~R) + P(H|~S,~R) P(~S,~R) (すべての条件を列挙)
    • P(H|R) = P(H|R,S) P(S) + P(H|R,~S) P(~S)

■■例題

  • P(R|H,S):HappyかつSunnyであるとき、Rise給料が上がった確率
  • P(R|H):Happyであるとき、給料が上がった確率
  • P(R|H,~S):Happyで曇りの時、給料が上がった確率

はてなユーザーのみコメントできます。はてなへログインもしくは新規登録をおこなってください。

トラックバック - http://d.hatena.ne.jp/mokehehe/20111023/ai3