Metric 予測 by 複数 Metric：お金で成績を買えるか？

本投稿は John Kruschke 著 Doing Bayesian Data Analysis の第 18 章 "Metric Predicted Variable with Multiple Metric Predictors" をもとにした。

Doing Bayesian Data Analysis, Second Edition: A Tutorial with R, JAGS, and Stan

John Kruschke

Academic Press
Amazon.co.jpで詳細を見る

本章は、predictors が複数の場合の予測。以下は本書の図 18.1 と 18.2 。

各図の上段左は、y と の関係を示す 3 次元プロットで、青色の平面が回帰式の μ 。その他の 3 つは、2 変数のプロット。

この二つの図は、明らかに違う分布を示しているが、「y の回帰式が同じ」という共通点がある。その回帰式は

y ~ N(m, sd=2), m = 10 + 1x₁ + 2x₂

つまり、y ~ normal(μ, σ), μ = β₀ + β₁x₁ + β₂x₂ において、切片 β₀ と傾き β₁ ,  β₂ が同じ（3 次元プロットで、同じ「平面 μ」）。

また、「回帰分析の前提条件」ともいうべき以下を前提としている。

The model assumes homogeneity of variance, which means that at all values of x₁ and x₂, the variance σ² of y is the same.

この分布の違いの原因は、回帰モデルでは表されない "the distribution of the <x₁, x₂> values" にある。

図 18.1 の 2 次元プロットが示すのは

相互に独立：y と x₁ は傾き β₁ = 1 、y と x₂ は傾き β₂ = 2 、x₁ と x₂ に相関はない

そして、図 18.2 では

依存関係：y と x₁ は傾き β₁ ≠ 1 、y と x₂ は傾き β₂ ≠ 2 、x₁ と x₂ に強い負の相関

複数の predictors の回帰式では、その「式の背後に隠れた情報」の認識が重要になる。

お金をかけるほどに成績は落ちる？

現実のデータでは、predictors 同士が相関することは珍しくない。次の図 18.3 は実際のデータで、the average total SAT score in a state（SATT） の正規分布パラメータ μ の predictors に、「生徒あたりにかけたコスト（Spend）」「生徒の受験率（%Take）」でモデル化したもの。

上段右の SATT, Spend のプロットからだけから言えるのは

お金をかけるほどにスコアは減少する

一見すると「？」となる分析だが、これは実際、教育予算配分への反対の根拠として使われたそうだ。

Guber(1999) explains how some political commentators have used this relationship to argue against funding public education.

では本当に「お金をかけたら成績が落ちる」のだろうか？

これは「片手落ち」の結論で、別の要因を加味する必要がある。

下段左の SATT, %Take のプロットは、明らかな負の相関を示す。つまり

　受験率が上がると SATT は低下

方や下段右の %Take, Spend のプロットは、正の相関を示す。つまり

　受験率の向上にはお金が必要 = お金をかけると受験率が上がる

この 2 つから想像できるのは、コストをかけて受験率を上げると、成績の悪い生徒も多く受験するようになる。例えば、「本来は大学進学を考えていない生徒」の受験も増えると考えられる。

つまり、回帰式

　SATT ~ N(m,sd=31.5), m = 993.8 - 2.9 %Take + 12.3 Spend

の通り、Spend は SATT にプラス影響（係数12.3）し、%Take はマイナス影響（係数 -2.9）する。

補足：ここでの「お金をかけるほど成績は落ちるか？」の問いへは "No" なのだが、「学習塾否定派」の私としては、一般的には "Yes" としたい。正確には「お金で成績は買えない」、そして「努力でこそ得られる」と信じたいから。極限的に言えるのは、永遠にお金を与え続けても、永遠に成績が上がることはないのだ。

「冗長 Predictors」に続く。