数理統計学

はじめに 統計検定1級の統計数理・理工学において，回帰分析の関連テーマ(最小二乗推定・線形単回帰・線形重回帰)は2012年～2022年の間で複数回登場した頻出分野の1つである。 本記事では，線形回帰モデルにおける3つの主な課題の1つである検定問題のうち，線形回帰モデルのF検定について整理する。 目次 はじめに 目次 関連記事 線形回帰モデル F検定の問題設定 F検定と変数選定 検定問題 部分空間による表現 残差平方和の算出 F統計量の分母 F統計量の分子 残差平方和の振り分け (補足)正準形の注意点 まとめ 参考文献 関連記事 残差平方和に関連する標本分布(カイ2乗分布) #統計検定 - ji…

はじめに 統計検定1級の統計数理・理工学において，回帰分析の関連テーマ(最小二乗推定・線形単回帰・線形重回帰)は2012年～2022年の間で複数回登場した頻出分野の1つである。 本記事では，線形回帰モデルにおける3つの主な課題のうち，誤差項が正規分布にしたがうという仮定を加えた状態で，最小二乗推定量や目的変数，予測値の標本分布に関する性質を整理する。 目次 はじめに 目次 回帰分析の関連テーマ(最小二乗推定・線形単回帰・線形重回帰) 統計検定1級での出題 線形回帰モデル 誤差項における正規性の仮定 目的変数に関する確率分布(正規分布) 最小二乗推定量の標本分布(正規分布) 予測値の標本分布(正…

はじめに 統計検定1級の統計数理・理工学において，回帰分析の関連テーマ(最小二乗推定・線形単回帰・線形重回帰)は2012年～2022年の間で複数回登場した頻出分野の1つである。 理解を深めるための1つの手段として，図形的・幾何学的なイメージを持つ，という方法がある。 本記事では，線形回帰モデルにおける最小二乗推定量の幾何学的な解釈や部分空間との関係について説明する。 目次 はじめに 目次 回帰分析の関連テーマ(最小二乗推定・線形単回帰・線形重回帰) 統計検定1級での出題 最小二乗推定量と部分空間 線形回帰モデル 計画行列と基底ベクトル 計画行列の列ベクトルが張る部分空間 最小二乗推定量は部分空…

はじめに 統計検定1級の統計数理・理工学において，回帰分析の関連テーマ(最小二乗推定・線形単回帰・線形重回帰)は2012年～2022年の間で複数回登場した頻出分野の1つである。 本記事では，線形回帰モデルにおける3つの主な課題と，そのうちの1つである最小二乗推定について，ベクトルによるスカラーの微分を用いて説明した。 目次 はじめに 目次 回帰分析の関連テーマ(最小二乗推定・線形単回帰・線形重回帰) 統計検定1級での出題 線形回帰モデル テーブルデータと線形回帰モデル 線形回帰モデルにおける3つの課題 1. 最小二乗推定量とこれにかかわる数値の性質の把握 2. 標本分布の性質の把握 3. 検定…

はじめに 統計検定1級の統計数理・理工学において，尤度比検定は2012年～2022年の間で2回しか登場していないが，最尤法の漸近論で登場する統計的検定の手法として重要な内容である。尤度比の検定統計量はカイ2乗分布にしたがうが，これを導出する際につまずくことがあったので，手順について整理してみた。 目次 はじめに 目次 尤度比検定 統計検定1級での出題 尤度比検定統計量 尤度比検定におけるカイ2乗分布の導出 Step 1. テイラー展開 Step 2. 1次微分の項の式変形 Step 3. 2次微分の項の式変形 Step 3-1. フィッシャー情報量と大数の法則 Step 3-2. 最尤推定量の…

はじめに 統計検定1級の統計数理・理工学において，尤度比検定は2012年～2022年の間で2回しか登場していないが，最尤法の漸近論で登場する統計的検定の手法として重要な内容である。尤度比の定義が教科書によって異なり，覚えるときに混乱したので，覚え方を整理した。 目次 はじめに 目次 尤度比検定 統計検定1級での出題 テキストによって表記が異なる尤度比の定義 尤度比検定における分母・分子の覚え方 帰無仮説のパラメータ vs 最尤推定量 まとめ 尤度比検定 統計検定1級での出題 統計検定1級の統計数理・理工学において，2012年～2022年の10年の間で，関連する問題は2回出題されている。 テキス…

はじめに 統計検定1級の統計数理・理工学や統計検定準1級において，デルタ法はわりとお馴染みの話題である(1級よりも準1級に出やすい印象がある)。デルタ法には，平均に関するものと分散に関するものがあるので，整理してみた。 目次 はじめに 目次 デルタ法 統計検定1級での出題 定義と雰囲気 中心極限定理との関係 平均・分散に関するデルタ法 分散に関するデルタ法 平均に関するデルタ法 まとめ 参考文献 デルタ法 統計検定1級での出題 統計検定1級の統計数理・理工学において，2012年～2022年の10年の間で，関連する問題が2年(3問)出題されている。 定義と雰囲気 デルタ法に関する定義は，久保川達…

はじめに 今年もWathematicaアドベントカレンダーの季節がやってまいりました。皆さん真面目に学術的な記事を書いてらっしゃると思いますが、ここでは大学入学から今まででWathematicaでやってきたことを振り返るという、外部に公開する需要が全くない自己満企画をやろうかと思います。１年生ですら真面目に何かを勉強して「アドカレ間に合わねぇ〜！！」とか言ってるのにこんな書き殴り記事でごめんなさい。本来アドカレなんてこんな軽いノリでええんやで。 はじめに 早稲田大学入学！ 初めてのゼミ 番外編１：新歓ゼミ 進級、数学科に配属！ 番外編2：合宿 いよいよ専門を決めるB3秋... もうB4！？研究…

確率と統計 - 情報学への架橋 - | コロナ社 「気になっている著者の本を見かけてしまい、つい買ってしまった」というやつ。 「数学科向け」との評価をどこかで目撃した気がしたので戦々恐々としながら開いたけれど、多少解析学に入門してる*1なら数学科じゃなくても勧められる予感。 最初はそのページ数の少なさ、薄さに対しつい不安を覚えてしまったけれど、その薄さは内容の薄さではなく簡潔さの表れだと思う。まず最初の方の用語導入の明確さ、かつ無駄のなさ*2が尋常じゃないし、読み流しする分には行間は少な目では*3。今まで見た確率密度や確率変数の定義や説明をスムーズに呑み込ませる気が無く独学者や入門者に対するあ…

本 ベイズ周りをやっておいた方が良さそうで買ってみた。 実践Ｄａｔａ Ｓｃｉｅｎｃｅシリーズ ＲとＳｔａｎではじめる ベイズ統計モデリングによるデータ分析入門 (ＫＳ情報科学専門書)作者:馬場真哉講談社Amazon 会社でAmazon Sagemakerを使っているが、JupyterLabを起動するEC2インスタンス以上の使い方ができていないのでちゃんと使い所を理解しておきたい。 www.oreilly.co.jp あと直近データ分析後のレポーティングとかビジュアライゼーションで困っているので。 www.oreilly.co.jp 将来的に数理統計学をちゃんとやろうとした時に、確実に数学で詰む…

はじめに 2024年8月からブログの記事を書き始めて，100日連続で更新することができた。 100日連続更新までの道のりについて，改めて振り返ってみた。 目次 はじめに 目次 関連記事 ブログを書き始めたきっかけ 執筆プロセスとコツ 記事を書くためのプロセス 1週間の流れ 効率よく書くためのコツ 使っていたツール 100日間で直面した壁とその乗り越え方 ネタがない 時間がない モチベーションが下がる ブログ100日連続更新のメリットと効果 自分のスキル向上を感じた 反応が得られるようになった 今後の展望 まとめ 関連記事 ブログを20日連続で更新してみた感想 - jiku log ブログを書き…

はじめに 数理統計学より実践的な内容の理解に向けて，久保 拓弥 著「データ解析のための統計モデリング入門 一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。本記事は，第11章「空間構造のある階層ベイズモデル」の読書メモである。 本書の紹介ページ www.iwanami.co.jp 本書のサポートページ 生態学データ解析 - 本/データ解析のための統計モデリング入門 目次 はじめに 目次 第11章 空間構造のある階層ベイズモデル 11.1 例題：一次元空間上の個体数分布 データの読み込でpandas.DataFrameに変換する。 11.2 階層ベイズモデルに空間構造をくみこむ 空間構…

はじめに 当ブログのサブタイトルは，「JTCのデータサイエンス中間管理職の学び」である。というわけで，10月の学習記録を振り返ってみた。 目次 はじめに 目次 インプット編 「大規模言語モデル入門」 「データ解析のための統計モデリング入門 一般化線形モデル・階層ベイズモデル・MCMC」 アウトプット編 振り返りと今後の抱負 インプットとアウトプットのバランスを考慮するべき 自分なりの切り口を見せたい インプット編 2024年10月は，2冊の本を読んだ。 「大規模言語モデル入門」 gihyo.jp職場の重点施策であり，近年着目されている技術である大規模言語モデルについて，代表的なアルゴリズムの特…

はじめに 数理統計学より実践的な内容の理解に向けて，久保 拓弥 著「データ解析のための統計モデリング入門 一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。本記事は，第9章「GLMのベイズモデル化と事後分布の推定」の読書メモである。 本書の紹介ページ www.iwanami.co.jp 本書のサポートページ 生態学データ解析 - 本/データ解析のための統計モデリング入門 目次 はじめに 目次 第9章 GLMのベイズモデル化と事後分布の推定 9.2 GLMのベイズモデル化 9.3 無情報事前分布 9.4 ベイズ統計モデルの事後分布の推定 データを読み込む CmdStanPyのセットアッ…

はじめに 数理統計学より実践的な内容の理解に向けて，久保 拓弥 著「データ解析のための統計モデリング入門 一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。本記事は，第8章「マルコフ連鎖モンテカルロ(MCMC)法とベイズ統計モデル」の読書メモである。 本書の紹介ページ www.iwanami.co.jp 本書のサポートページ 生態学データ解析 - 本/データ解析のための統計モデリング入門 目次 はじめに 目次 第8章 マルコフ連鎖モンテカルロ(MCMC)法とベイズ統計モデル 8.2 ふらふら試行錯誤による最尤推定 8.3 MCMCアルゴリズムのひとつ : メトロポリス法 定常分布が表…

はじめに 数理統計学より実践的な内容の理解に向けて，久保 拓弥 著「データ解析のための統計モデリング入門 一般化線形モデル・階層ベイズモデル・MCMC」を読んでいる。本記事は，第7章「一般化線形混合モデル(GLMM) ―個体差のモデリング―」の読書メモである。 本書の紹介ページ www.iwanami.co.jp 本書のサポートページ 生態学データ解析 - 本/データ解析のための統計モデリング入門 目次 はじめに 目次 第7章 一般化線形混合モデル(GLMM) 7.2 過分散と個体差 7.3 一般化混合線形モデル まとめと感想 第7章 一般化線形混合モデル(GLMM) この章では，GLMを拡張…