回帰分析

はじめに 『Pythonで学ぶ空間データサイエンス入門』の独学ノートです。本の内容から寄り道してアレコレ考えます。 本を読んだ上で補助的に読んでください。 この記事では、線形回帰モデルの最小二乗法について、プログラムを使って解説します。 【前の内容】 www.anarchive-beta.com 【他の内容】 www.anarchive-beta.com 【今回の内容】 はじめに 3.2.1-3 線形回帰モデルの最小二乗法の実装 疑似データの生成 最小二乗法の計算 係数パラメータの推定 分散パラメータの推定 係数パラメータの分散共分散行列の推定 最小二乗法の実装 参考文献 おわりに 3.2.1…

回帰分析は統計学の手法の一つであり、変数間の関係性を調べるために用いられます。この分析に利用される変数を従属変数と独立変数と言い、この関係性を把握するのが回帰分析です。言い換えると、ある変数（従属変数と呼ばれる）が他の変数（独立変数と呼ばれる）にどのように影響されるかを調べるために使われます。また、変数間の関係性の強さを回帰係数と言います。以下に、これらの用語を具体例を含めながら説明します。 従属変数（Dependent Variable）とは 独立変数（Independent Variable）とは 回帰係数（Regression Coefficient）とは (adsbygoogle = …

多重共線性とは、統計学や回帰分析において重要な概念です。この現象は、独立変数同士が強い相関関係を持っている場合に発生します。つまり、複数の説明変数が互いに高い相関を示すとき、多重共線性が生じます。言葉の意味合いとしては、「複数の独立変数間の線形関係」を意味します。 多重共線性がある例 多重共線性がない例 多重共線性の条件と確認方法 なぜ多重共線性を確認する必要があるのか (adsbygoogle = window.adsbygoogle || []).push({}); 多重共線性がある例 例えば、身長と体重のように強い関係性のある変数を含むデータセットでは、多重共線性が発生しやすいです。また…

R Advent Calender 2023として投稿することにしました 共分散分析で回帰分析の分散分析が出てきたので、少し整理します。 回帰分析を分散分析する目的 回帰分析の分散分析は、データを意思決定に利用するための方法です。 これを使えば、回帰モデルに用いた異なる要因（説明変数、因子など）が目的変数に与える影響を統計的に評価できます。 一般的な回帰モデルは以下の式で表されます。 $$ y = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + \ldots + \beta_n x_n + \varepsilon $$ $y$ : 目的変数 $x_1, x_2, \…

共分散分析で回帰分析の分散分析が出てきたので、少し整理します。 回帰分析を分散分析する目的 回帰分析の分散分析は、データを意思決定に利用するための方法です。 これを使えば、回帰モデルに用いた異なる要因（説明変数、因子など）が目的変数に与える影響を統計的に評価できます。 一般的な回帰モデルは以下の式で表されます。 $$ y = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + \ldots + \beta_n x_n + \varepsilon $$ $y$ : 目的変数 $x_1, x_2, \ldots, x_n$ : 説明変数、要因 $\beta_0, \beta…

回帰モデルの係数の分散分析は、二元配置分散分析と計算方法が似ているので、分散分析の知識が役に立ちます。ですが、この 2 つは目的や仮定が違っています。注意が必要です。 目的 説明変数 説明変数間、因子間の関係 差の検定 回帰モデルの係数の分散分析 回帰モデルの精度、有意性を見る 連続値 相関、非線形性を考慮 係数がゼロと異なるかを t 検定 二元配置分散分析 因子が値に与える影響を見る カテゴリー 交互作用を考慮 因子水準間の平均値を F 検定 二元配置分散分析 カテゴリー変数の因子が値に与える影響を見るために、各因子水準間の平均値に差を F 検定で評価する。 平方和 自由度 平均平方 F 値…

共分散分析で回帰分析の分散分析が出てきたので、少し整理します。 回帰分析を分散分析する目的 回帰分析の分散分析は、データを意思決定に利用するための方法です。 これを使えば、回帰モデルに用いた異なる要因（説明変数、因子など）が目的変数に与える影響を統計的に評価できます。 一般的な回帰モデルは以下の式で表されます。 $$ y = \beta_0 + \beta_1 x_1 + \beta_2 x_2 + \ldots + \beta_n x_n + \varepsilon $$ $y$ : 目的変数 $x_1, x_2, \ldots, x_n$ : 説明変数、要因 $\beta_0, \beta…

ナンピン買いをするには オプションのポジションの量を把握していること 為替オプションから、具体的な商品の流通の予測ができること 先物取引から、地政学リスクの予測がつくこと 補足してもらった ナンピン買いに関するアイデアの統計的補足 ナンピン買いは、株価が下落した際に追加購入することで、平均取得単価を下げ、将来の上昇時に利益を得ようとする投資戦略です。ご提示のアイデアは、ナンピン買いをより精緻に行うための多角的なアプローチですが、統計的な観点からいくつかの補足と改善点があります。 1. オプションのポジション量とナンピン買い * オプションのポジション量は、市場のセンチメントや価格変動の予測に役…

llm-jp/llm-jp-3-3.7b-instructとしたチューニングを施したllm-jp-3-3.7b-instruct-EZO-Humanitiesを試してみました。ColabのT4環境でVRAMぎりぎりで動作しました。日本語や日本関係の基礎知識は3.7bと思えないほどありそうな印象でした。ながながと文章を生成します。ただし、計算はとても苦手な様子。 癖が強そうなオリジナルのLLM-jp-3-3.7Bより使いやすそうにチューニングしてあるように感じました。 huggingface.co まどか☆マギカで一番かわいいのは？ 「魔法少女まどか☆マギカ」（以下、「まどか☆マギカ」）は、その…

" Circulating metabolic profile in idiopathic pulmonary fibrosis: data from the IPF-PRO Registry pubmed.ncbi.nlm.nih.gov 背景: 特発性肺線維症（IPF）の進行や生物学的特徴を反映する循環代謝プロファイルは、完全には解明されていない。本研究では、循環代謝物のレベルがIPFの存在や重症度、臨床的に関連する転帰とどのように関連するかを評価した。 方法: IPF-PROレジストリから300名のIPF患者と、既知の肺疾患を持たない100名の対照群の登録時血漿サンプルを分析した。 標的…

Journal of Housing and the Built Environment Volume 36, issue 4, 2021 Attitudes towards housing equity release strategies among older home owners: A European comparison 1Joris HoekstraKees Dol Article Open access 21 February 2021 Pages: 1347 – 1366 The ageing of European societies, the mounting pres…

先日こんなことを放言したら、思いの外結構伸びてしまったのでした。「生成AIが博士号レベルの高度な課題解決や推論が出来る」ようになったら、その出力が正しいかどうかを判定できるのは同レベルの専門人材だけなので、そういう人材の需要が逆に高まる気がしている。それはプロの研究者が論文中で捏造や改竄をしても、プロの研究者でないと見破りづらいのと同じかと— TJO (@TJO_datasci) 2024年9月19日 ということで、今回も相変わらずネタ切れでブログに書くことがないので完全に与太記事ですが「生成AI（というかLLM）の推論がどんどん高度になることで逆にユーザーの側に高度なスキルが必要になる」とは…

タイトル: RS-MAE: 静止状態fMRIに基づく神経精神障害分類のためのリージョン・ステート・マスクド・オートエンコーダー。 タイトル: 発達性失読症を持つ子供における中心視野のクラウディング Unsupervised machine learning for identifying Feasibility of the Understanding and Managing Adult ADHD Programme Medium-Chain Acyl-Coenzyme A Dehydrogenase Deficiency Title: タイトル: ADHDと問題行動障害を持つアフリカ系アメ…

※本ブログおよび掲載記事は、Google、Amazon、楽天市場のアフィリエイト広告を利用しています。 2017年の出版だが、内容は未だ古くない。語り口は平易で内容は網羅的、因果推論の初学者がその全体を理解するのに適した一冊だ。 詳細な目次は下記にあるが、おおよその内容は、因果推論について相関関係と因果関係の違いからその必要性を説きおこし、因果推論の具体的内容については、ランダム化比較実験、自然実験、擬似実験（差の差分析、操作変数法、回帰不連続デザイン、マッチング法、回帰分析）の解説が簡潔に書いてある。 各項目には1章ずつ割り当ててあり、その考え方、前提条件、代表的な研究事例という構成で統一さ…

以前作成したBIを少し改善してみた。 tech00.hateblo.jp ■全体 2014年5月から2015年5月のアメリカのシアトル州キング郡の住宅販売価格のデータ ■データ id：id date：販売日 price：価格 sqft_living：生活空間のサイズ（平方フィート*） * 1平方フィート = 約0.1平方メートル sqft_lot：区画のサイズ condition：住宅の状態 ・1 - 5の指数： ・1が最も悪く、5が最も良い grade：キング郡の評価システムに基づく全体的なグレード ・1 - 13 の指数： ・1 - 3 は建物の建設と設計が不十分 ・7は建設と設計が平均的…

非付加価値的な活動を見つけて取り除くため、活動基準原価計算は一つ一つの製造活動の原価の変動要因を定量分析し、同質の原価を集積し、原価を把握します。 To find and eliminate non-value-added manufacturing activities, Activity-Based Costing comprehends cost through quantitatively analyzing cost drivers of each and every manufacturing activity and sorting them out into different…

背景 調子に乗りました。 著者に反応を受けたら、そりゃやらないといかん というわけで『計量経済学』でも有名な末石直也先生が2024年4月に出版された 『データ駆動型回帰分析』を購入してから5ヶ月、途中休職を挟んだもののだいぶぶん投げっぱなしだったので、改めて読みます。 www.nippyo.co.jp

House Sales in King County, USAのデータを使って、重回帰分析をしてみた。 こちらと同じデータを使用した。 tech00.hateblo.jp 重回帰分析の手法はこちらを参考にした。 py4etrics.github.io ■仮説をつくる 本来なら先行研究などを見て変数を決めるべきだが、今回はざっくりとした仮説を作る。 「price」を目的変数にして、価格に対してどのような影響があるか見ていく。 最も影響があるのが「sqft_living（家の面積）」でその他に「sqft_lot（区画のサイズ）」、「bedrooms」、「bathrooms」、「condition（…