ryamadaの遺伝学・遺伝統計学メモ このページをアンテナに追加 RSSフィード

数学・コンピュータ関連の姉妹ブログ『ryamadaのコンピュータ・数学メモ』
京都大学大学院医学研究科ゲノム医学センター統計遺伝学分野のWiki
講義・スライド
医学生物学と数学とプログラミングの三重学習を狙う学習ツール
駆け足で読む○○シリーズ
ぱらぱらめくるシリーズ
カシオの計算機
オンライン整数列大辞典

2013-12-03 すかすかなこと、と、神に託された不等式

[][][][][][][][][][][]すかすかなこと、と、神に託された不等式

  • これの続き
  • こちらがPDF
  • まだうまく読めるかどうかわからないので、ひとまず登場する用語をメモ
  • 調和解析,フーリエ変換,ウェーブレット変換,推定,James Stein推定,Sparcity,Oracle inequalities,逆問題,時系列解析,Besov space,ウェーブレット縮退
  • Karhunen-Loeve decomposition

[][]James Stein 推定から非線形Shrinkageへ

  • 複数の観測があるときに、それぞれの観測値の真値推定をするにあたり、観測値そのものにするより、「複数の観察を眺め渡して、そのばらつき・広がりより、少しきゅっと縮めた」値にしておく方がよいことが示せる
  • その「きゅっと縮める」ことをShrinkageと言い、縮め方の一つのやり方がJames Stein 推定法
  • この「きゅっと縮める」法がよいことを示しているのは、「全観測値にわたっての当てはまりのよさ」がよりよいことを示す不等式が得られることで示されるのだが、この「不等式」がOracle inequality。「え、言われるまで気づかなかったけど、自然の摂理な不等式ね」という意味合いだろうか。
  • じゃあ、どういう風にShrinkageするか、その最適化は、という問題が生じる
    • James Stein推定は、値ごとにShrinkageの程度を変えるので、「非線形」に見えるけれど、そのShrinkageの程度の計算自体は「線形」な方法
    • 「線形」なので、「非線形で素敵なもの」が見つかるなら、James-Steinを含めた、「実質的には線形な方法」より良いものがあるだろう
  • 関数(のパラメタ)を指定する空間での最適解探索をフーリエ変換のスペクトル探索と同じ道具立てにする。関数空間がソボレフ空間。スペクトル探索にするときに、部分空間に分けるらしいのだが、それは区間という部分空間に分けることに対応していて、それっていうのは調和解析がやってきたこと。そういう流れで、調和解析につながってくる