Linear Regression（線形回帰分析）

Linear Regression タブでは、最小二乗法（OLS）による線形回帰分析を実行できます。OLS は残差平方和を最小化する回帰係数 $\hat\beta = (X'X)^{-1}X'Y$ を求める手法です。数理的な背景は回帰分析の基礎を参照してください。

カウントデータや二値データなど、正規分布を仮定できない応答変数には GLM（一般化線形モデル） を使用してください。

基本的な使い方

Linear Regression を開く

メニューバーから Analysis > Linear Regression (OLS)... を選択すると、新しい Linear Regression タブが開きます。

変数の設定

Dataset で分析対象のデータセットを選択します。

Response Variable (Y) で目的変数を選択します。数値型（int64, float64）の列のみ選択できます。

Predictor Variables (X) で説明変数を選択します。チェックボックスで複数の変数を選択できます。数値型の列のみ選択可能で、非数値型の列はグレーアウト表示されます。カテゴリ変数を使用する場合は、事前に Dummy Coding タブで数値変換が必要です（注意事項を参照）。

Include intercept で切片項の有無を設定します。デフォルトでオンです。

設定が完了したら、Run Analysis ボタンをクリックして分析を実行します。

結果の見方

Model Summary

モデル全体の適合度を示します。

指標	説明
R-squared	モデルが説明する分散の割合（0〜1）
Adj. R-squared	説明変数の数で自由度調整した R-squared: $1 - (1-R^2)(n-1)/(n-p)$。$p$ は切片を含む計画行列 $X$ の列数。変数追加で $R^2$ は単調増加するが、Adj. R-squared は不必要な変数の追加で下がりうる
F-statistic	帰無仮説「切片以外の全ての回帰係数がゼロ」の検定（p 値つき）
RMSE	残差の標準偏差（予測誤差の目安）
N (observations)	分析に使用した観測数

欠損値や無効な値を含む行が除外された場合、除外件数を表示します。

Coefficients（係数テーブル）

列	説明
Variable	変数名（切片は "(Intercept)"）
Estimate	回帰係数の推定値 $\hat\beta$
Std. Error	標準誤差 $\sqrt{\operatorname{diag}\bigl(\hat\sigma^2 (X'X)^{-1}\bigr)}$
t value	$t$ 統計量 $t = \hat\beta / \operatorname{SE}(\hat\beta)$。自由度 $n - p$ の $t$ 分布に従う
Pr(>|t|)	$t$ 分布に基づく両側 p 値
(有意水準マーク)	*** p<0.001, ** p<0.01, * p<0.05, . p<0.1
Lower N% / Upper N%	信頼区間 $\hat\beta \pm t_{\alpha/2,\, n-p} \times \operatorname{SE}(\hat\beta)$。N は設定した信頼水準（50 から 99.99 の任意の値）
Std. Coef.	標準化係数 $\hat\beta_j \times s_{X_j} / s_Y$。各変数の標準偏差を単位としたときの回帰係数（切片には N/A）
VIF	分散拡大係数（多重共線性を参照）

誤差が正規分布に従えば、OLS の $t$ 検定と $F$ 検定は標本サイズによらず正確です。

係数テーブルは Save as Dataset ボタンでデータセットとして保存し、CSV にエクスポートできます。保存には先にモデルを Save Model で保存しておく必要があります。係数データセットを具体的なモデルに紐付けることで、モデル削除時に係数データセットとレポート要素も一緒に削除され、再学習時にデータセットの内容が新しい fit の結果で更新されます。

保存されるデータセットでは、列名が画面の表記と異なります。t value は Test Statistic、Pr(>|t|) は P-value として保存されます。参照分布を示す Distribution 列（値は t）と残差自由度を示す DF 列も追加されます。

係数の解釈

係数は応答変数のスケールで直接解釈できます。

• 連続変数: 他の変数を一定に保ったとき、$X_j$ が1単位増加すると $Y$ の期待値は $\hat\beta_j$ だけ変化する
• ダミー変数: 参照カテゴリに対する $Y$ の期待値の差を表す
• 切片: すべての説明変数が0のときの $Y$ の期待値
• 標準化係数（Std. Coef.）: 各変数の標準偏差1つ分の変化に対する $Y$ の変化を $Y$ の標準偏差単位で表した値。スケールの異なる変数間で回帰係数の大きさを揃えられるが、「標準偏差1つ分」の意味は変数ごとに異なるため、係数の大小がそのまま変数の重要度を表すとは限らない。ダミー変数の標準偏差はカテゴリの比率に依存するため、連続変数との単純な比較は推奨されない

Model Fit

指標	説明
Residual Deviance	残差平方和 $\text{RSS} = \sum(y_i - \hat y_i)^2$
Null Deviance	全平方和 $\text{TSS} = \sum(y_i - \bar y)^2$
AIC	赤池情報量規準 $\text{AIC} = -2\ell + 2p$。値が小さいほどよい
BIC	ベイズ情報量規準 $\text{BIC} = -2\ell + p \ln n$。AIC よりモデルの複雑さに強いペナルティを課す。AIC は予測精度の最適化に適し、BIC はモデルの一致推定に適している。両者が異なるモデルを示す場合は分析の目的に応じて判断する

ANOVA Table

各説明変数の寄与を分散分析で評価します。Type I と Type III をラジオボタンで切り替えられます。

• Type I（Sequential）: 変数を投入した順番で平方和を計算。変数の投入順序によって結果が変わります。
• Type III（Partial）: 各変数を最後に投入した場合の平方和を計算。変数の投入順序に依存しません。

列	説明
Source	変動の要因
Sum Sq	平方和
DF	自由度
Mean Sq	平均平方（Sum Sq / DF）
F value	F 統計量（Mean Sq / Mean Sq_Residual）
Pr(>F)	F 分布に基づく p 値

Prediction & Confidence Intervals

各観測値の予測値と区間推定を表示します。

列	説明
Fitted	予測値
CI Lower N% / CI Upper N%	平均応答の信頼区間
PI Lower N% / PI Upper N%	個々の観測値の予測区間

信頼区間（CI）は母平均の推定精度を、予測区間（PI）は新しい個々の観測値の変動範囲を表します。PI は CI より常に広くなります。N は設定した信頼水準（50 から 99.99 の任意の値）です。

100行を超える場合は最初の50行のみ表示します。Show all N rows で全行を展開できます。

予測区間テーブルも Save as Dataset でデータセットとして保存できます。係数テーブルと同じく、保存には先にモデルを Save Model で保存しておく必要があります。

モデルの保存と診断

分析結果をプロジェクトに保存し、診断プロットを確認します。

モデルの保存

Model Name フィールドにモデル名を入力し、Save Model ボタンをクリックします。モデル名はデフォルトで「Linear Regression: Y ~ X1 + X2」の形式で自動生成されます。

同じ設定（データセット、目的変数、説明変数）の既存モデルがある場合、上書き確認ダイアログが出ます。

モデル保存時に生成されるデータ

モデルを保存すると、元のデータセットに診断統計量の列を追加した派生データセットが自動生成されます。

列名	数式での記号	内容
fitted_values	$\hat y_i$	予測値
deviance_residuals	$e_i = y_i - \hat y_i$	残差
standardized_residuals	$r_i^* = e_i / (\hat\sigma\sqrt{1 - h_i})$	標準化残差
leverage	$h_i$	てこ比（Hat 行列の対角要素）
cooks_distance	$D_i$	Cook's Distance

診断と詳細

モデル保存後、2つのボタンが使えるようになります。

• View Model Details - モデルの詳細情報を表示する Model Detail タブを開きます
• View Diagnostics - 残差診断プロットを表示する Residual Diagnostics タブを開きます

残差診断プロット

View Diagnostics をクリックすると4つの診断プロットが開きます。OLS 回帰の仮定が成り立っているかを確認できます。

OLS 回帰の仮定:

1. 線形性 - 目的変数と説明変数の間に線形関係がある
2. 正規性 - 残差が正規分布に従う
3. 等分散性 - 残差の分散が予測値に依存せず一定である
4. 独立性 - 残差が互いに独立である（診断プロットでは直接確認できない）。データに階層・クラスター構造がある場合は GLMM のランダム効果を検討してください。時系列的な系列相関がある場合、OLS の標準誤差が不正確になります。MIDAS には現在、系列相関に対応する機能がありません

Normal Q-Q、Scale-Location、Residuals vs Leverage の3プロットでは標準化残差 $r_i^*$ を使用します。Residuals vs Fitted は生の残差 $e_i$ を使用します。数式の詳細は回帰分析の基礎を参照してください。

Residuals vs Fitted（残差 vs 予測値）

横軸に予測値 $\hat y$、縦軸に残差 $e_i$ をプロットします。モデルが適切なら、残差はゼロの周囲にランダムに散らばります。

• 曲線的パターン: 説明変数の非線形効果が欠落している可能性
• 漏斗状パターン: 不等分散の可能性（Scale-Location プロットで詳しく確認）

Normal Q-Q Plot（正規 Q-Q プロット）

標準化残差 $r_i^*$ の分位点を標準正規分布の理論分位点に対してプロットします。残差が正規分布に従っていれば点は対角線上に並びます。両端で外れる場合は裾が重い分布（外れ値が多い）、S 字型に外れる場合は歪みがあることを示します。

Scale-Location（尺度-位置プロット）

横軸に予測値、縦軸に $\sqrt{|r_i^*|}$ をプロットします。分散が一定なら点は水平方向に均等に散らばります。予測値が大きくなるにつれて点が広がる（漏斗状）パターンや右上がりの傾向は、不等分散を示します。不等分散がある場合、係数の推定値は不偏ですが標準誤差が不正確になり、信頼区間と p 値が信頼できなくなります。MIDAS は現在ロバスト標準誤差を実装していません。不等分散が疑われる場合は、応答変数の対数変換や、分散構造をモデル化できる GLM の使用を検討してください。

Residuals vs Leverage（残差 vs てこ比）

横軸にてこ比 $h_i$、縦軸に標準化残差 $r_i^*$ をプロットします。Cook (1977) の Cook's Distance 等高線（$D = 0.5$: オレンジ破線、$D = 1.0$: 赤破線）を重ねて表示します。Cook は $D_i$ を $F_{p,\, n-p}$ 分布の50パーセンタイルと比較することを提案しており、$p$ が小さく $n$ が十分に大きい場合はおよそ1前後の値になりますが、$p$ や $n$ によって変わります。ただしこれは形式的な棄却域ではなく、観測値間の影響度を相対的に比較するための目安です。

• てこ比（Leverage）: 説明変数空間で観測値が他からどれだけ離れているかを示す。$2p/n$ が高レバレッジの閾値
• Cook's Distance: てこ比と残差の大きさを1つの影響度指標にまとめたもの

等高線の外側に位置する観測値は、その1点を除外するだけでモデルの推定結果が大きく変わる可能性があります。

ポイントの選択

プロット上でデータポイントをクリックまたは矩形選択すると、該当する観測値の詳細（予測値、残差、てこ比、Cook's Distance 等）をプロット下部のテーブルに表示します。選択状態は4つのプロット間で同期します。

注意事項

カテゴリ変数の使用

OLS 回帰では数値型の変数のみ使用できます。文字列型やブール型などのカテゴリ変数を説明変数として使用するには、Dummy Coding タブで数値のダミー変数に変換してから分析を行います。

交互作用項

交互作用項を分析に含めるには、データセット上であらかじめ変数の積を計算した列を作成してください。MIDAS は交互作用項の自動生成をサポートしていません。

欠損値・無効値の自動除外

欠損値（null）、非数値、無限大を含む行は自動的に除外します。除外した行数は Model Summary に表示します。

多重共線性

説明変数間の相関が高いと係数の推定が不安定になります。係数テーブルの VIF（Variance Inflation Factor）が大きい変数がある場合、冗長な変数の除外や統合を検討してください。VIF の詳細は回帰分析の基礎を参照してください。

サンプルサイズと正規性

$t$ 検定と $F$ 検定の有限標本での正確性は誤差の正規性に依存します。大標本では中心極限定理が効きますが、小標本では Q-Q プロットで残差の正規性を確認してください。必要なサンプルサイズは誤差の真の分布次第で、一律の基準はありません。

参考文献

• Cook, R. D. (1977). Detection of influential observation in linear regression. Technometrics, 19(1), 15-18. https://www.jstor.org/stable/1268249

Next steps

• 残差診断プロット - モデルの仮定を確認する
• GLM（一般化線形モデル） - カウントデータや二値データのモデリング

See also

• 回帰分析の基礎 - OLS の数理的背景と診断統計量
• ダミーコーディング - カテゴリ変数を数値に変換する