4 ランダム切片モデル
コードセルは 編集して「Run Code」を押すと再実行 できます(R はあなたのブラウザ内で動いています)。 初回はパッケージの読み込みに数十秒かかります。数値を変えて結果がどう変わるか、自由に試してください。
4.1 モデル式
生徒 \(i\)、学校 \(j\) として、
\[ \text{score}_{ij} = \underbrace{\beta_0 + \beta_1 \cdot \text{hours}_{ij}}_{\text{固定効果(全体共通)}} + \underbrace{u_j}_{\text{学校のずれ}} + \underbrace{\varepsilon_{ij}}_{\text{個人のばらつき}} \]
\[ u_j \sim N(0, \tau^2), \qquad \varepsilon_{ij} \sim N(0, \sigma^2) \]
単回帰との違いは \(u_j\) が1つ増えただけ です。
- \(u_j\):学校 \(j\) の切片が、全体の切片 \(\beta_0\) からどれだけずれているか
- \(\tau\)(タウ):学校のずれの標準偏差。学校間のばらつきの大きさ
- \(\sigma\):学校内での個人のばらつき
つまり学校 \(j\) の直線は「切片 \(\beta_0 + u_j\)、傾き \(\beta_1\)」。平行な直線が学校の数だけある モデルです。
\(u_j\) を学校ごとに自由に推定する(=プーリングなし)のではなく、 「\(u_j\) は平均 0、標準偏差 \(\tau\) の正規分布から出てくる」と仮定します。 推定するのは 20 個の \(u_j\) ではなく \(\tau\) という1つの値 です。 この仮定が縮小推定を生み出します。
4.2 R の書き方
lmer(score ~ hours + (1 | school), data = d)| 部分 | 意味 |
|---|---|
score ~ hours |
固定効果。lm() と同じ書き方。切片は自動で入る |
(1 | school) |
ランダム効果。「school ごとに切片 (1) がばらつく」 |
| の左が「何がばらつくか」、右が「何ごとにばらつくか(グループ)」です。
4.3 当てはめて出力を読む
上から順に読んでいきます。
4.3.1 Random effects(ランダム効果)
Groups Name Variance Std.Dev.
school (Intercept) ... ... ← τ(学校間のばらつき)
Residual ... ... ← σ(個人のばらつき)
データは真の値 \(\tau = 8\)、\(\sigma = 6\) で作りました。近い値が推定できているか確認しましょう。
4.3.2 Fixed effects(固定効果)
(Intercept):\(\hat\beta_0\)。平均的な学校 で勉強時間 0 のときの得点hours:\(\hat\beta_1\)。勉強時間 1 時間あたりの得点の増加(真の値は 3)
Pr(>|t|) 列の p 値は lmerTest パッケージが Satterthwaite 法 という方法で自由度を近似して計算したものです。
4.4 学校ごとの値を取り出す
fixef():固定効果(全体共通)ranef():ランダム効果(学校ごとのずれ \(\hat u_j\))coef():両者を足したもの(学校ごとの切片・傾き)
\(\hat u_j\) はパラメータとして「推定」したものではなく、推定した \(\tau, \sigma\) とデータから 「予測」した値です(BLUP: 最良線形不偏予測量 と呼ばれます)。第 チャプター 3 章の縮小推定はこれのことです。
4.5 図で確認
平行な直線がたくさん引かれました。これがランダム切片モデルです。
4.6 級内相関係数 (ICC)
全体のばらつきのうち、学校間の違いで説明される割合 を 級内相関係数 (Intraclass Correlation Coefficient; ICC) と呼びます。
\[ \text{ICC} = \frac{\tau^2}{\tau^2 + \sigma^2} \]
- ICC ≈ 0:学校の違いはほとんどない → 普通の回帰とほぼ同じ
- ICC が大きい:同じ学校の生徒は非常に似ている → 混合モデルが重要
ICC は「同じ学校から選んだ2人の生徒の得点の相関」とも解釈できます。
4.7 lm と比べる
今回の hours は学校の 中で 変化する変数なので、混合モデルで学校のずれを取り除くと、残りの誤差が小さくなり、むしろ標準誤差が小さく(推定が精密に)なっています。 一方、第 チャプター 1 章の「補習プログラム」のように学校 単位で 決まる変数では、lm は標準誤差を過小評価していました。どちらの方向にせよ、構造を正しくモデル化することが大切 です。
4.8 練習:自分でデータを作って確かめる
sd = 5(τ)を0にしたらどうなる?(ヒント:boundary (singular) fitという警告が出るかも → 第 チャプター 7 章)n_schoolを5に減らすと τ の推定はどうなる?
- ランダム切片モデル:\(y_{ij} = \beta_0 + \beta_1 x_{ij} + u_j + \varepsilon_{ij}\)、\(u_j \sim N(0,\tau^2)\)
- R では
lmer(y ~ x + (1 | group)) - 出力は Random effects(τ, σ)と Fixed effects(β)に分けて読む
- ICC = τ² / (τ² + σ²) でグループの影響の大きさがわかる