仮説検定

本ページでは、有意性を判定するための回帰係数の仮説検定についてまとめたい。 回帰分析は、標本（サンプル）を抽出し、母集団分布の性質の一つである回帰パラメーター（変数間の関係）を推測するものであり、統計的推論の一つである。 回帰分析により推定した回帰係数が有意であるかについて、仮説検定により検証する。 仮説検定の考え方 「AがBである」ことを示したいとする。このとき、「いったん『AがBで"ない"』という仮説を立て、その仮説が正しい確率が十分に低い」ことを示すことで、「AがBである」ことを確かめる、というのが、仮説検定の基本的な流れとなる。 仮説検定の考え方については、以下のページを参照されたい。…

本ページでは、統計分析における仮説検定の基本的な考え方についてまとめたい。 仮説検定の考え方 「AがBである」ことを示したいとする。このとき、「いったん『AがBで"ない"』という仮説を立て、その仮説が正しい確率が十分に低い」ことを示すことで、「AがBである」ことを確かめる、というのが、仮説検定の基本的な流れとなる。 具体的には、以下のステップで仮説検定を行う。ここでは一例として、「新型の電球の開発により電気の寿命は延びたか」という検証を取り上げる。 ①帰無仮説の設定 「新型の電球の開発により旧来型よりも電気の寿命が延びた」ことを示したいとする。このとき、いったんそれと反対の仮説、すなわち「新型…

引き続き、統計検定のお勉強。 coublood.hatenablog.com 今回は-値について。 ■ -値 (Probability) 帰無仮説が正しいと仮定した場合、観測された値以上に外れた値が出る確率。 つまり、その観測値が仮説のもとどれくらいの確率で出たものなのかを表す値になります。 なので、-値が基準値よりも小さい場合は、帰無仮説が妥当ではない、つまり帰無仮説は正しくないと判断することになります。 帰無仮説棄却の判断基準として、-値が以上かどうかが使われていますが、どうやら根拠はないようです。 ということは、20回に１回は外れるくらいなら許容という判断になるということですね。 → 帰…

今回は統計的手法について。 「その24」以前が未読の方は先ずは一つ前の以下の記事から。 tomo1961.hateblo.jp 皆さんの会社では「統計的手法」を活用しているだろうか？ 「統計的手法」に関して日本の製造業は、おそらく以下の３つのグループにはっきりと分かれるだろう。 ・活用している ・活用できていない ・「統計的手法」を知らない 知らない、というのは本来問題外なのだが、中小を合わせた全製造業の殆どは、統計的手法を知らないまま、あてずっぽうで判断/決断して会社の大切な将来を危険にさらしているのだろう。 「統計的手法」を活用して業務上の効果を得られるには、第一に”計算ができる人材”が必…

今回は統計キーワード編のラスト仮説検定です！ 仮説検定？ なんのために今まで色んな分析や細々した計算をしてたのか？つまりは仮説検定のためです。仮説をたてて検証し、最後にジャッジするのです！ 表の中では、これも「検定」にあたるのじゃ。 仮説検定編 帰無仮説とか、第１種の過誤なんかのワードを抑えておきましょう。 目次 ①対立仮説 ②帰無仮説 ③悪魔の証明 ④有意水準 ⑤第1種、第2種の過誤 ⑥検定力 ①対立仮説 帰無仮説と対立仮説がありますが、先に対立仮説を理解した方がいいと思います。対立仮説とは、最終的に主張したい説です。例えば、あなたが薬の研究者で、膨大な時間とお金を掛けてようやく新薬を開発し…

1. パラメータの尤もらしさに関する統計的仮説検定 1.1 ワルド検定（Wald test） 1.2 スコア検定（Score test） 1.3 尤度比検定（Likelihood ratio test） 2. KL-divergenceとFischer情報量の関係 2.1 スコア関数とFischer情報量の定義 2.2 KL-divergence 3. 参考書籍 1. パラメータの尤もらしさに関する統計的仮説検定 何らかのパラメトリックな確率モデル とコのデータサンプル（標本） に対して定義される対数尤度関数 を用いて、「あるパラメータ が最尤推定量 と一致しているかどうか」に真偽を与える統計…

野矢茂樹『新版 論理トレーニング』（１２） 今回は、第９章 推論の技術 第３ 背理法 である。 背理法とはどういうものか。Wikipediaは、次のように説明している（ア）。 P を仮定すると、矛盾が導けることにより、P の否定を結論付けることは否定の導入という。 P の否定を仮定すると、矛盾が導けることにより、P を結論付けることは否定の除去（狭義の背理法）という。 否定の導入と否定の除去（狭義の背理法）をあわせて広義の背理法ということもある。一般的に、背理法と言った場合は広義の背理法を指す。（Wikipedia、消去法） 狭義の背理法がお馴染みであるように思う。 野矢は次のように説明してい…

こんにちは、株もっちーです。 金曜日は、本などのINPUTした情報に対するOUTPUTをしていきたいと思います。 要するに読書感想文的な活動ですね。 読んだ本：数学ガールの秘密ノート／やさしい統計, 結城 浩 (著) 気づいたこと 結城浩さん(Amazonの著者ページより) BACH - The Art of Fugue 行動したこと まとめ 読んだ本：数学ガールの秘密ノート／やさしい統計, 結城 浩 (著) 数学ガールの秘密ノート／やさしい統計作者:結城 浩SBクリエイティブAmazon こちらの記事で経済学の教養をつけるために読もうと思った本ですね。 kabu-motty.hatenabl…

採取したDNAから環境に関連する微生物群集を研究するメタゲノミクスにおいて、最も基本的な計算タスクの1つは、リファレンスデータベースから、与えられたサンプルメタゲノムにどのゲノムが存在するか、または存在しないかを決定することである。この問いに答えるツールは存在するが、これまでの既存のアプローチはすべて点推定値であり、それに関連する信頼性や不確実性については得られない。このため、特に低存在量の生物については、誤った予測の「ノイズの多いテイル」に存在することが多いため、実務者はこれらのツールからの結果を解釈する際に困難を感じることになっている。さらに、リファレンスデータベースは不完全であることが多…

サンプルサイズに対する鈍感さ（Insensitivity to Sample Size）とは、統計的仮説検定において、サンプルサイズが小さい場合に統計的有意差を見落とす傾向のことを指します。つまり、サンプルサイズが小さいと、偶然の変動が大きくなり、データのばらつきが大きくなるため、検定の力が弱くなり、有意差を検出しにくくなるということです。 一般的に、サンプルサイズが大きい場合には、統計的有意差を検出する力が強くなり、検定の結果がより信頼性が高くなります。しかし、サンプルサイズが小さい場合には、偶然の変動が大きくなり、検定の力が弱くなるため、統計的有意差を検出することができなくなることがありま…

風邪ひいたようなひいてないような体調です。多分気のせいです。 本日は土曜日、にも拘らず雨の中使ったことのない路線を利用してとある場所に向かいました。 パソコン教室、なのですが別にパソコン関連のお勉強をしに行ったわけではありません。 「統計検定2級」なるものを受けてきました。 結果から申し上げると、合格しました。ギリです。 統計検定、とは 一般社団法人日本統計学会が認定し、一般財団法人統計質保証推進協会が実施する、統計学に関する知識や活用力を評価する検定試験。総務省、文部科学省、厚生労働省、内閣府後援。 (wikipedia参照) 民間資格ではあるものの、昨今はデータサイエンティストの需要が高ま…

ブートストラップ法とは、統計的な推論や検定において、サンプルサイズが小さい場合に、母集団分布の性質を推定するための手法です。ブートストラップ法は、既知の分布からのサンプリングを利用する代わりに、元のデータセットからランダムサンプリングを行い、大量のサンプリングデータを生成することによって、推定値の分布を近似します。Pythonでブートストラップ法を実装するためには、NumPyとScipyのライブラリを使用します。以下のようなステップで実装します。 ブートストラップ法とは ブートストラップ法は、標本から復元抽出を行い、その復元標本から統計量を計算する手法です。この手法は、標本が小さい場合に、母集…

今日の積み上げ AI学習 Udemy統計検定２級対策講座 セクション6「線形モデル」：61～63終了 セクション7「適合度検定・独立性検定」：64～66終了 ＡＩ学習 統計検定2級講座、最後までやり切りました。 4/28から始めて、GWのお休みを利用して8日間で１周目完走。 最後まで本当にわかりやすい解説でした！ 小テストの解説もめちゃくちゃ丁寧で、自分がどこで躓いたのか理解するのに大いに役立ちました。 講師の最後のメッセージ「習熟することは尊い」にも感動！ （資格試験の最大の魅力は「習熟する機会」を得られることの意味） 今回、このUdemy講座を受講しようと思ったのは、AVILENのDS検定…

今日の積み上げ AI学習 Udemy統計検定２級対策講座 セクション5「仮説検定」：51～53終了 セクション6「線形モデル」：54～60終了 ＡＩ学習 今日は仮説検定をやり切った後、線形モデルとして単回帰モデルと重回帰モデルの学習をしました。 講師曰く、この辺りは統計検定２級の中でもっとも難しいと言われているところのようです。 ただ、やってることはこれまでの区間推定、仮説検定と同じような印象を持ってます。 この手の計算問題はいろいろと手間はかかりますが、意外に嫌いじゃないです。 むしろ、解けたときのスッキリ感が味わえるのが、なんとも心地よくて、楽しんでます。 KUMON式で数学の問題をひたす…

今日の積み上げ AI学習 Udemy統計検定２級対策講座 セクション4「推測統計」：44～45終了 セクション5「仮説検定」：46～50終了 ＡＩ学習 区間推定がどういうものか、小テストに取り組むことでイメージがついてきました。 ただ、公式はうる覚え状態なので、まだまだなところがあります。 講師曰く、 試験直前に公式を覚えれば、試験に合格はできるかもしれない しかし、それだけでは理解の定着に繋げるのは難しい 合格後のことを考えると、 何がどんな分布に従うのか それを丁寧に整理していけば、信頼区間の式が導ける このことに習熟することで理解の定着が長持ちする とのこと。 この流れで考えると、最初の…

本ページでは、共和分についてまとめたい。 本ページで登場する定常性や単位根といった時系列データ分析における基本的な考え方については以下のページを参照されたい。 hongoh.hatenablog.com 共和分 単位根過程に従う２つの系列、x、y(期を表す添字のtをここでは省略)を考える。そして、この２つの系列x、yについて、その線形和ax+bxが定常過程となるようなa、bが存在するとき、xとyには共和分の関係があるという。共和分の存在は、xとyの間に長期的な均衡関係が存在することを意味している。 検定 以下は代表的な共和分検定の手法である。 Engle Granger検定 xとyの線形和が定…

年度末は割と教科書が出版されることが多いと思うのですが、いくつかいただいたものがありますのでご紹介したいと思います。まず有斐閣ストゥディアシリーズから3冊あるのですが、『日本政治の第一歩［新版］』を同僚の藤村先生、それから上神・遠藤・鹿毛・濱本の各先生から頂きました。どうもありがとうございます。本書は主に日本の国内政治を対象に、多くの研究を生み出している執筆者のみなさんが、各章のトピックについて一般的・理論的な説明から始め、日本政治をどのように理解していいかを説明していきます。2018年に出版されたものの新版になるわけですが、そのあとの日本政治のトピックとして、女性やジェンダーに対する関心の高…

今日の積み上げ AI学習 Udemy統計検定２級対策講座 セクション2「記述統計」：14～16終了 セクション3「確率統計」：17～29終了 ＡＩ学習 AVILENの講座で今一つ理解できなかった確率統計。 何度もブログで書いていますが、このUdemy講座、本当に解説がわかりやすくて、勉強が捗ってます。 小テストに取り組みながら、公式の使い方の理解もできているように思います。 「この手の問題はこういうふうに解けばよい」といった解法も学べるので、達成感も味わいつつ、楽しく積み上げできてます。 この調子でセクション４「推測検定」、セクション５「仮説検定」までは一気に進めてみようと思います。 今日は短…