GLMM タブ

GLMM タブでは、グループ構造を持つデータにランダム切片モデル g(μi)=xiβ+uj[i]g(\mu_i) = x_i'\beta + u_{j[i]}, ujN(0,σu2)u_j \sim N(0, \sigma_u^2) を当てはめられます。

たとえば複数の学校から生徒のテスト結果を集めたデータでは、学校ごとの違いをランダム切片 uj[i]u_{j[i]} で考慮しつつ、勉強時間などの固定効果 xiβx_i'\beta を推定できます。

このモデルは GLM にランダム効果を加えた拡張で、マルチレベルモデルとも呼ばれます。成績に学校内の相関があり、勉強時間が学校間で異なる場合、GLM で学校差を無視すると勉強時間の係数の標準誤差が過小推定され、信頼区間が実際より狭くなります。

数理的な背景は GLMM の基礎を参照してください。

基本的な使い方

GLMM を開く

メニューバーから Analysis > Mixed Effects Model (GLMM)... を選択します。

分析の設定

GLMM フォーム設定

Dataset で分析対象のデータセットを選択します。GLMM は 1 行が 1 観測で、グループを示す列を持つデータを想定します。反復測定が複数の列に分かれている場合は Reshape タブの Wide to Long で変換できます。

Response Variable (Y) で応答変数を選択します。数値型(間隔・比率尺度)の列のみ選択できます。Binomial 分布族では 0/1 の値を持つ列を使用します。二値を boolean 型で持つ列は既定で名義尺度と推論されるため選択できませんが、Data Table で尺度を間隔尺度に変更すると選択でき、true=1, false=0 として扱われます。

Fixed Effects (X) で固定効果の説明変数を少なくとも 1 つ選択します。数値型の列のみ選択可能で、カテゴリ変数を使用する場合は事前に Dummy Coding で変換してください。変換結果は新しい派生データセットになるため、変換後は Dataset でそのデータセットを選び直します。

Group Variable (Random Intercept) でランダム切片のグループ変数を選択します。カテゴリ変数(名義・順序尺度)または文字列型の列が選択できます。ライン番号や学校 ID のようにグループを数値で記録している列は間隔尺度と推論されるため候補に表示されませんが、Data Table で尺度を名義尺度に変更すると選択できます。

Distribution Family で分布族を選択します:

分布族デフォルトリンク利用可能なリンク用途
Gaussian (Normal)IdentityIdentity, Log連続値
Binomial (Logistic)LogitLogit, Probit二値データ
Poisson (Count)LogLog, Identityカウントデータ
GammaInverseInverse, Log, Identity正の連続値

Link Function でリンク関数を選択します。分布族に応じたデフォルト(正準リンク)が設定されます。選択可能なリンク関数は分布族によって異なります(上記テーブルを参照)。

リンク関数数式説明
Identityη=μ\eta = \mu変換なし。Gaussian の正準リンク
Logitη=log ⁣(μ/(1μ))\eta = \log\!\bigl(\mu / (1 - \mu)\bigr)対数オッズ変換。Binomial の正準リンク
Logη=log(μ)\eta = \log(\mu)対数変換。Poisson の正準リンク。μ>0\mu > 0 を保証
Inverseη=1/μ\eta = 1/\mu逆数変換。Gamma の正準リンク
Probitη=Φ1(μ)\eta = \Phi^{-1}(\mu)標準正規分布の逆累積分布関数。潜在正規変数モデルに対応

正準リンクの数理的な性質は GLM の基礎: リンク関数の選択 を参照してください。

Include intercept で切片項の有無を設定します(デフォルト: オン)。

Confidence Level で信頼区間の信頼水準を設定します(デフォルト: 95%、範囲: 50--99.99%)。Fixed Effects テーブルの Lower N% / Upper N% 列に反映されます。保存後に Model Detail タブを開くと同じ入力が表示され、保存値を初期値としてその場で水準を変更できます(モデルに保存された値は変わりません)。

Max Iterations で最適化の最大反復回数を設定します(デフォルト: 100)。

Convergence Tolerance で収束判定の閾値を設定します(デフォルト: 1e-6)。

分析の実行

Run GLMM をクリックします。推定アルゴリズムは分布族によって異なります(詳細)。実行中はフォーム下部に進捗バーと推定のステージが表示されます。

実行後に変数選択やモデル設定を変えると、表示中の結果は現在の設定のものではなくなります。MIDAS はこの結果を画面から外し、再実行を促すメッセージを表示します。設定を元に戻すと結果は再び表示されます。Dataset を変えたときは変数選択も初期化されるため、結果は戻らずに破棄されます。Confidence Level の変更では結果を保持します。信頼水準は推定済みの係数から区間だけを計算し直す設定だからです。

結果の見方

GLMM 分析結果(Random Effects、ICC、Fixed Effects、Model Fit)

Random Effects

ランダム効果の分散成分を表示します。

説明
Component分散成分の名前。Group (変数名) はグループ変数の分散、Residual は残差分散を表します
Variance分散の推定値。グループ変数では σu2\sigma_u^2、残差では σe2\sigma_e^2 です
Std.Dev.分散の平方根

Poisson と Binomial 分布族では分散パラメータが ϕ=1\phi = 1 固定のため、Residual 行は表示されません。

残差分散 σe2\sigma_e^2 にリンク関数は影響しません。σe2\sigma_e^2 は分布族の性質(Gaussian では Var(Yμ)=σe2\operatorname{Var}(Y \mid \mu) = \sigma_e^2、Gamma では Var(Yμ)=σe2μ2\operatorname{Var}(Y \mid \mu) = \sigma_e^2 \mu^2)だからです。リンク関数が影響するのは診断残差(deviance・Pearson)の方で、線形予測子から fitted values μ^=g1(η)\hat\mu = g^{-1}(\eta) を計算する経路を通じて効きます(モデルの保存と診断を参照)。

ICC(級内相関係数)

ICC は説明されない分散のうち、グループ間の違いが占める割合です(ICC=σu2/(σu2+σe2)\text{ICC} = \sigma_u^2 / (\sigma_u^2 + \sigma_e^2))。MIDAS は σe2\sigma_e^2 に理論的根拠がある以下の family+link の組み合わせでのみ ICC を計算します:

分布族リンクσe2\sigma_e^2
GaussianidentityREML 推定値
Binomiallogitπ2/3\pi^2/3閾値モデル
Binomialprobit11閾値モデル

それ以外の組み合わせ — Poisson(全リンク)、Gamma(全リンク)、Gaussian + log — では、理論的に根拠のある残差分散が存在しないため、ICC の値の代わりに N/A (ICC not defined) と表示されます(詳細は GLMM の基礎 を参照)。これらの組み合わせでも、グループ間変動の大きさは Random Effects テーブルの Variance(リンク尺度の σu2\sigma_u^2)と BLUP で確認できます。

ICC が定義される組み合わせでも、分散成分の推定が破綻して ICC を計算できない場合は N/A (degenerate fit) と表示されます。

ICC の解釈はデータの性質や研究目的に依存し、グループサイズも考慮する必要があります(GLM との使い分けを参照)。

Binomial モデルの ICC は確率尺度ではなく潜在(リンク)尺度で計算されます。観測された二値応答の相関とは一致しません。

Fixed Effects

固定効果の係数テーブルです。

説明
Variable変数名
Estimate回帰係数 β^\hat\beta
Std. Error標準誤差。Gaussian + identity では Woodbury 公式で (XV1X)1(X'V^{-1}X)^{-1} を計算します。それ以外の組み合わせでは PIRLS 収束時の作業重み行列に基づく近似です
Lower N% / Upper N%Wald に基づく信頼区間の下限・上限です。N は選択した信頼水準に応じて変わります

リンク関数が logit または log の場合、以下の列が追加されます。

説明
OR / IRR / exp(Est.)Estimate の指数変換 exp(β^)\exp(\hat\beta) です。logit リンクではオッズ比(OR)、log リンク + Poisson では発生率比(IRR)、それ以外の log リンクでは exp(Est.) と表示されます
exp(Lower N%) / exp(Upper N%)信頼区間の指数変換です

係数は GLM と同じくリンク関数のスケールで解釈します。詳しくは GLM の係数の解釈 を参照してください。

信頼区間は標準正規分布に基づく Wald 近似で計算されます。グループ数が少ない場合は信頼区間の幅が過小評価される傾向があります。詳細は GLMM の基礎: 固定効果の推測と正規近似 を参照してください。

固定効果係数テーブルは Save as Dataset ボタンでデータセットとして保存し、CSV にエクスポートできます。Add to Report ボタンでレポートに追加すると、BLUP テーブルも同時に追加されます。どちらもモデルの保存が必要で、モデルが未保存のときは、ダイアログでモデル名を入力し、同じ操作の中でモデルを保存します。

Model Fit

指標説明
REML Log-Likelihood / Log-Likelihood (Laplace)対数尤度。Gaussian + identity では REML、それ以外の組み合わせでは Laplace 近似の周辺対数尤度です
AIC2+2k-2\ell + 2kkk は固定効果の数と分散成分の数の合計です
BIC2+klogn-2\ell + k\log nnn は観測数です

AIC・BIC によるモデル比較には制約があります(GLMM の基礎: AIC/BIC の制限を参照)。REML 対数尤度(Gaussian + identity)に基づく AIC は固定効果の構造が同一のモデル間でしか比較できません。分布族またはリンクが異なるモデルどうしでは、対数尤度の基準(REML / Laplace)と尺度が変わるため、AIC・BIC・対数尤度を比較できません。

BLUP(ランダム効果の予測値)

BLUP テーブル(グループごとのランダム効果予測値)

各グループのランダム切片の予測値 BLUP(Best Linear Unbiased Predictor、最良線形不偏予測量)を表示します。

説明
Groupグループ変数の値
Conditional Modeランダム効果 uju_j の予測値。グループサイズが小さいほど全体平均(0)に向かって縮小されます(縮小推定の詳細
Std. Error予測値の標準誤差。条件付き分散の平方根で、グループサイズが小さいほど大きくなります
RankConditional Mode の降順の順位

予測値が線形不偏予測量のなかで平均二乗予測誤差を最小にするという BLUP の性質が成り立つのは、Gaussian + identity の場合だけです。それ以外の組み合わせでは、予測値は観測データで条件づけた uju_j の分布の最頻値(条件付きモード)で、これが Conditional Mode 列に表示される値です(GLMM の基礎: 推定と予測を参照)。

Gaussian + identity 以外の Std. Error は条件付きモード周りの正規近似に基づく値のため、条件付きモード ± z × SE の形で作った区間は正確な予測区間になるとは限りません。

BLUP テーブルは Save as Dataset ボタンでデータセットとして保存し、CSV にエクスポートできます。BLUP データセットの保存にはモデルの保存が必要で、モデルが未保存のときは、ダイアログでモデル名も入力し、モデルとデータセットをまとめて保存します。レポートへの追加は Fixed Effects の Add to Report ボタンから行います。

モデルの保存と診断

Model Name にモデル名を入力し Save Model をクリックすると、モデルがプロジェクトに保存されます。保存時に診断用の派生データセットが自動生成されます。

列名内容
fitted_values予測値(固定効果 + ランダム効果)
deviance_residualsDeviance 残差
pearson_residualsPearson 残差
group_random_effectグループのランダム切片(BLUP)

Gaussian + identity では deviance 残差と Pearson 残差はともに生の残差 yiy^iy_i - \hat y_i に一致し、deviance_residualspearson_residuals は同じ値になります。

保存後、View Model DetailsView Diagnostics ボタンが使えるようになります。Model Detail には固定効果の係数テーブルと BLUP テーブル(グループごとのランダム切片推定値)が表示されます。BLUP テーブルはデフォルトで 50 行まで表示され、グループ数が多い場合は Show all N rows ボタン(N は総グループ数)で全件を展開できます。Add to Report ボタンから係数テーブル・BLUP テーブルをレポートに追加できます。

注意事項

現在の制約

GLMM の現在の実装はランダム切片モデルのみです。ランダム傾き(説明変数の効果がグループごとに変わるモデル)や交差ランダム効果(観測が複数のグループ変数に属するモデル)には対応していません(GLMM の基礎を参照)。

GLM タブでは Negative Binomial 分布族が利用できますが、GLMM タブでは対応していません。

GLM との使い分け

ICC が小さければ、グループ構造を無視して GLM で分析しても結果はほぼ変わりません。影響の大きさは ICC だけでなくグループサイズにも依存し、デザイン効果 DEFF=1+(nˉ1)×ICC\text{DEFF} = 1 + (\bar n - 1) \times \text{ICC} が目安になります(GLMM の基礎を参照)。

ICC が大きい場合、GLM は観測間の独立性の仮定に反し、係数の標準誤差が歪みます。歪みの大きさは説明変数によって異なります。学校ごとの学費のように値の変動が主にグループ間にある説明変数ほど標準誤差は強く過小推定され、変動が主にグループ内にある説明変数では歪みは小さくなります。GLMM はグループ内の相関を明示的にモデル化することで、この問題を避けます。

比較したいグループが少数で、そのグループ自体の効果を直接推定したい場合は、グループを Dummy Coding でダミー変数に変換し、GLM の固定効果として扱う方法もあります(GLMM の基礎を参照)。

欠損値の自動除外

欠損値、非数値、無限大を含む行は自動的に除外されます。結果の Observations は除外後の観測数です。この除外はリストワイズ除去に該当します。妥当な推定を与える条件については 欠損データのメカニズム を参照してください。

収束の問題

収束しない場合は次の対処を試してください:

  • Max Iterations を増やす(たとえば 100 から 500 へ)
  • Convergence Tolerance を緩める(たとえば 1e-6 から 1e-4 へ)
  • スケールが大きく異なる説明変数を標準化する

説明変数は内部でスケーリングされますが、スケール差が極端な場合は初期値を与える GLM の推定が失敗することがあります。また、グループ数が 2〜3 と極端に少ない場合は分散成分の推定が不安定になり、収束の問題が起きやすくなります。

Singular Fit

ランダム効果の分散が無視できるほど小さくなり、推定値がパラメータ空間の境界に達した場合、"Singular fit" 警告が表示されます。この判定は、分散成分の最適化に使うスケール不変な相対共分散パラメータ θ\thetaGLMM の基礎を参照)がゼロ境界に十分近いかで行うため、応答変数の単位には依存しません。

Singular fit は、グループ変数が応答変数の変動をほとんど説明していない場合や、グループレベルの変動と残差変動を分離するにはサンプルサイズやグループ数が足りない場合に起こります。

Singular fit が発生した場合、ICC や分散成分の推定値は慎重に解釈する必要があります。固定効果のみのモデル(GLM)の方が適切な場合があります。

See also

  • GLM - ランダム効果を含まない一般化線形モデル
  • GLMM の基礎 - ランダム効果モデルの数理的背景