数理経済学的特別計画

一元配置分散分析(one-way ANOVA)をわかりやすく解説

この記事では、一元配置分散分析(one-way ANOVA)をわかりやすく解説します。 適当にネットで調べてもあまりしっくりくる説明がなかったので、自分用の備忘録も兼ねています。 前提知識としては、重回帰分析の線形代数による記述スタイルを掴んでいたらよいと思います。 経済学専門の予備校で100点満点の経済学の試験をしました。この予備校にはA・B・Cの3クラスがあります。

2025/02/24 00:00

累積分布関数はロジスティック型の微分方程式の解に書き直せることを解説

この記事では累積分布関数はロジスティック型の微分方程式の解として書き直せることを解説します。 12種類あるBurr型の分布は、 \begin{align*} \frac{d}{dx} F(x) = F(x)(1 – F(x))g(x, F(x))\end{align*} というロジスティック型の微分方程式において、$latex g$を様々に変えることで導出された(はず)です。

2025/02/23 19:51

順序統計量の最大値と最小値の累積分布関数の導出をわかりやすく解説！！

この記事では順序統計量の最大値と最小値の分布関数は簡単に求められることを解説します。 まず順序統計量の最大値と最小値というのは、 確率変数 \begin{align*} X_1, \ldots, X_n \end{align*} があった時に、それぞれ \begin{align*} X_{(n)} = \max \{X_1, \ldots, X_n\}, \quad X_{(1)} = \min \

2025/02/23 00:16

線形回帰モデルの残差の分散共分散行列と単一データの残差の分線を導出する方法をわかりやすく解説

この記事では線形回帰モデルの残差の分散共分散行列を導出・証明する方法をわかりやすく解説します。 \begin{align*} y = X \beta + \varepsilon, \quad \varepsilon \sim N(0, \sigma^2 I)\end{align*} という線形回帰モデルを考えます。OLS推定量$\hat \beta$による予測値を \begin{align*} \

2025/02/22 15:05

線形回帰モデルのCase-Deletion公式の導出や証明をわかりやすく解説！！

この記事ではCase-Deletion公式をわかりやすく解説します。 \begin{align*} y = X \beta + \varepsilon\end{align*} という線形回帰モデルを考えます。 ここで、行列$latex A$に対して、$latex i$行目を削除(0にするのではなく、削除です)した行列を \begin{align*} A_{-i}\end{align*}…

2025/02/22 13:02

Sherman-Morrison-Woodburyの公式の超簡単な証明をわかりやすく解説

この記事ではSherman-Morrison-Woodburyの公式の超簡単な証明をわかりやすく解説します。 定理：Sherman-Morrison-Woodburyの公式 $latex A$を$latex n\times n$の正則行列、$latex U$を$latex n\times k$、$latex C$を$latex k \times k$の正則行列、$latex V$をk \

2025/02/16 23:29

統計学の回帰分析におけるレバレッジの定義や性質をわかりやすく解説

この記事では回帰分析におけるレバレッジ(leverage)の定義をわかりやすく解説します。 誤差項のある線形回帰モデル \begin{align*} y = X \beta + \varepsilon \end{align*} を考えます。 ハット行列を \begin{align*} H = X \left(X^t X \right)^{-1} X^t \end{align*} により定義します。

2025/02/16 21:58

擬似逆行列により定義したハット行列は適切に直交射影であることを解説

この記事では、擬似逆行列によるハット行列の定義は適切に直交射影であることを解説 最初に擬似逆行列の定義を確認しておきます。 定義：擬似逆行列(Moore-Penrose逆行列, 一般化逆行列) $latex A$を$latex n\times m$(複素)行列とする。$latex m\times n$(複素)行列$latex A^+$で \begin{align*}A A^+ A &= A \\

2025/02/16 15:23

射影だが直交射影でない行列の例をわかりやすく解説

この記事では射影だが直交射影でない行列の例をわかりやすく解説します。 有限次元ユークリッド空間$latex \mathbb R^n$上での話をします。 定義：射影行列 行列 \begin{align*} P: \mathbb R^n \rightarrow \mathbb R^n\end{align*} は、冪等性、つまり \begin{align*} P^2 = P \end{align*}…

2025/02/16 14:50

線形回帰モデルで制限付きモデルとの残差平方和の差がカイ二乗分布に従うことを証明！！！

この記事では線形回帰モデルで制限付きモデルとの残差平方和の差がカイ二乗分布に従うことを証明します。 \begin{align*} y = X \beta + \varepsilon, \quad \varepsilon \sim N(0, \sigma^2 I) \end{align*} という線形回帰モデルを考えます。$latex X$は1列目が全て1の$latex n \

2025/02/16 09:57

多変量標準正規分布の対称冪等行列による2次形式がカイ二乗分布に従うことの証明

この記事では多変量標準正規分布の対称冪等行列による2次形式が、冪等行列のランクを自由度とするカイ二乗分布に従うことを証明します。つまり主張は次のとおりです。 命題 $latex x$を$latex n$次元多変量標準正規分布 \begin{align*} x \sim N (0, I)\end{align*} に従う確率ベクトルとする。$latex P \in M_n$を$latex \

2025/02/15 11:25

多変量標準正規分布の直交行列による変換も多変量標準正規分布であることの証明！！！

この記事では、多変量標準正規分布の直交行列による変換も多変量標準正規分布であることを証明します。 $latex x$を$latex n$次元の多変量標準正規分布に従うとします。つまり、 \begin{align*} x \sim N(0, I )\end{align*} とします。 \begin{align*} Q \in O_n\end{align*} を$latex n$次直交行列とします。

2025/02/14 12:58

線形回帰モデルにおいて全要素が1のベクトルがハット行列の不動点であることの証明

この記事では線形回帰モデルにおいて全要素が1のベクトルがハット行列の不動点であることの証明をします。 全要素が1のベクトルを \begin{align*} e = (1, 1, \ldots, 1 )^t \in \mathbb R^n\end{align*} で表記します。線形回帰モデルを \begin{align*} y = X \beta + \varepsilon \end{align*}…

2025/02/13 21:29

指数分布の順序統計量の期待値の導出をわかりやすく解説！！

この記事では指数分布の順序統計量の期待値の公式の導出をわかりやすく解説します。 \begin{align*} X_1, X_2, \ldots, X_n \sim Exp(\lambda), \text{i.i.d.}\end{align*} とします。$latex X_1, X_2, \ldots, X_n$を昇順にならべ、下から$latex i$番目の値を$latex X…

2025/02/13 21:21

線形回帰モデルの残差平方和RSSの期待値を導出する方法をわかりやすく解説！！

この記事では残差平方和RSSの期待値の導出をわかりやすく解説します。 まず最初に残差平方和がなんであったかを確認しておきます。 線形回帰モデル \begin{align*} y = X \beta + \varepsilon\end{align*} を考えます。ただし$latex \varepsilon \sim N(0, \sigma^2 I)$ の回帰係数の最小二乗推定量を$latex \

2025/02/11 00:48

確率ベクトルの2次形式の期待値の公式をわかりやすく証明！！

この記事では確率ベクトルの2次形式の期待値の導出をわかりやすく証明します。 ここで、$latex n$次確率ベクトルとは、確率変数$latex X_1, \ldots, X_n$を並べたベクトル \begin{align*} x = (X_1, X_2, \ldots, X_n) \end{align*} のことです。 $latex (i,j)$成分が$latex \text{Cov}(X_i…

2025/02/09 20:42

双線形形式をtraceによって表現するトリックをわかりやすく解説

この記事では双線形形式をtraceによって表現するトリックを説明します。 ただし、この記事内で$latex x, y \in \mathbb R^n$の$latex n$次正方行列$latex A \in M_n$による双線形形式というと、 \begin{align*} x^t A y\end{align*} を指すこととします。 命題 $latex x, y \in \mathbb R^n$とし、

2025/02/09 18:50

Pythonの__eq__とは何かをわかりやすく解説！！！！！

この記事では__eq__が何かを、実装例も合わせて超簡単に説明します。 __eq__ __eq__ とは、Python において「==」演算子が呼び出される際に挙動を定義するための特別なメソッド（特殊メソッド）のことです。クラスのオブジェクト同士の等価比較を行う際に、__eq__ メソッドが呼び出されます。 Pythonで==演算子を使ったとき、内部的には以下のように動作しています。 つまり、=…

2025/02/08 23:16

ハット行列のトレースが回帰係数の数と一致することの証明を超簡単に解説

この記事ではハット行列のトレースが回帰係数の数と一致することの証明を超簡単に解説します。ほぼ自明ですが。 この事実は、残差平方和の期待値を求める上でクリティカルな役割を果たします。 \begin{align*} y = \beta_0 + x_1 \beta_1 + \cdots + x_{p-1}\beta_{p-1} \end{align*} とモデルをたてているとします。

2025/02/08 22:37

冪等行列Aはrankとtraceが一致することの証明をわかりやすく解説！！！

この記事では「冪等行列ならばrankとtraceが一致すること」の証明をわかりやすく解説します。 冪等行列を$latex A$で表記することにします。 行列のtraceは、固有値の総和に一致することを思い出しておきます。 冪等行列$latex A$の固有値は、$latex 0, 1$のみであったことを思い出しておきます。 というのも、$latex 0$ベクトルでない固有ベクトル$latex x\

2025/02/02 20:40

冪等行列Aに対してrank(I-A)=dimKerAであることの証明

この記事では冪等行列Aに対して$latex \textrm{rank}(I-A)=\textrm{dim} \textrm{ker}A$であることを証明します。 まず$latex n$次正方行列$latex A$を冪等行列、つまり \begin{align*} A^2 = A\end{align*} を満たす行列とします。次の事実が成り立ちます。 命題 $latex n$次正方行列$latex…

2025/02/01 01:14