ARIMA の自動次数選択

MIDAS の ARIMA の自動次数選択は、差分次数を検定で先に決め、それを固定したうえで残りの次数を情報量規準で選ぶという 2 段階で動きます。このページでは季節項を持たない ARIMA(p,d,q) を例に、各段階の手続きと、差分次数 $d$ だけを情報量規準ではなく検定で選ぶ理論的背景を説明します。季節周期を指定したときに加わる季節差分次数 $D$ の扱いは末尾の節で説明します。

ARIMA はメニューバーの Analysis > ARIMA... で開く ARIMA タブから実行できます。タブの操作と結果の読み方は ARIMA タブを参照してください。Agent API から実行する場合は Agent API の ARIMA を参照してください。

自動選択の手続き

第 1 段階では差分次数 $d$ を決めます。 $d = 0$ から始めて系列に KPSS 検定をかけ、統計量が判定閾値を超える間だけ差分して $d$ を増やし、超えなくなるか上限 $\text{maxD}$ に達したら止めます。差分後に分散がほぼ 0 になった系列は定常とみなして止めます。検定の中身と閾値の意味は後の節で説明します。

第 2 段階では、決めた $d$ を固定したまま、 $p$ を $0$ から $\text{maxP}$ まで、 $q$ を $0$ から $\text{maxQ}$ までの全組み合わせに ARIMA(p,d,q) を当てはめ、AIC または BIC が最小の候補を選びます。推定が収束しなかった候補は選択から除外し、収束した候補が 1 つもなければ ARIMA(0,d,0) を当てはめて返します。

手動で次数を指定したときは、この手続きを通らず、指定した次数をそのまま使います。自動選択の結果について、MIDAS は選ばれた $d$ と、統計量が判定閾値を超えたかどうかという操作的な事実だけを結果の注記に示します。p 値や有意・非有意の判定は表示しません。

なぜ d だけ検定で選ぶのか

$p, q$ を AIC/BIC で選ぶなら、 $d$ も候補に含めて 3 つまとめて情報量規準で選べばよいように見えます。しかしこの比較は成立しません。

差分を取ると、モデルが説明する対象のデータが入れ替わります。ARIMA(p,d,q) の対数尤度は $d$ 階差分した系列 $\Delta^d y$ の上で計算します。 $d=0$ の候補が $N$ 点の水準の並びに確率密度を与えるのに対し、 $d=1$ の候補が密度を与えるのは $N-1$ 点の変化量 $\Delta y$ です。水準の系列は初期値に変化量を足し上げたもの（ $y_t = y_1 + \sum_{i=2}^{t} \Delta y_i$ ）なので、変化量の同時分布が完全に分かっても、どの水準から始まったかが与えられない限り、水準の分布は決まりません。 $d=1$ の候補は、系列の動き方だけを記述して、初期水準については何も語らないモデルです。

尤度は、そのモデルが観測データに与えた確率密度です。したがって 2 つの候補の尤度は、「 $N$ 点の水準すべてをどれだけうまく説明したか」と「 $N-1$ 点の変化量だけをどれだけうまく説明したか」という別々の問いへの答えです。同じ問いに答えていない 2 つの数字を並べても、大小はモデルの優劣を表しません。

AIC/BIC はこの事情をそのまま引き継ぎます。AIC は次の量です:

\text{AIC} = -2\,\ell(\hat\theta) + 2k

ここで $\ell(\hat\theta)$ は最大対数尤度、 $k$ はパラメータ数です。AIC は当てはめたモデルと真の分布の Kullback-Leibler 乖離を、真の分布だけで決まる定数を除いて推定する量です。候補の間で AIC の差を取ったときにこの定数が打ち消されて乖離の差だけが残るのは、すべての候補が同じ観測データに確率密度を与えているときに限ります。

この条件は、応答の見かけの変換では壊れません。応答を滑らかな全単射で変換したモデルは、変数変換のヤコビアン項を対数尤度に足せば元のデータの密度に引き直せます。応答を定数だけずらしたモデルならヤコビアンは 1 で、補正なしにそのまま比較できます。

差分はこの引き直しができない変換です。長さ $N$ の系列 $y$ は、最初の $d$ 点の水準と、 $d$ 階差分後の長さ $N-d$ の系列の組に 1 対 1 に対応します。差分後の系列だけをモデル化することは、この組から最初の $d$ 点を捨てることにあたり、そのモデルは捨てた水準に確率を割り当てていません。次元を落とす写像には引き直しのヤコビアン項が存在せず、失われた分を埋めるには初期水準の分布をモデルに追加するしかありません。

しかし $d \ge 1$ の候補は、水準の系列を差分して初めて定常になる過程とみなすモデルです。この過程では水準の分散が時間とともに増え続けて水準の無条件分布が存在しないため、追加すべき初期水準の分布をモデル自身から導けません。 $d$ の異なる候補は「同じデータへの密度」という条件を満たさず、AIC の差は乖離の差を推定しません。BIC も同じ理由で $d$ をまたいで比較できません。

$d$ は、当てはめに使ったデータの上で計算する尤度以外の基準で決める必要があります。差分が足りているかは、差分後の系列が定常になったかという問いなので、MIDAS は定常性の検定で $d$ を決めます。

KPSS 検定

KPSS 検定（Kwiatkowski, Phillips, Schmidt, Shin による検定）は、水準定常性を帰無仮説、単位根を対立仮説とします。水準定常とは、系列が一定の水準 $\mu$ のまわりの定常な変動として $y_t = \mu + \varepsilon_t$ と書けることです。変動 $\varepsilon_t$ に自己相関があってもかまいませんが、水準からの乖離は時間とともに解消され、系列は $\mu$ の近くに戻ってきます。

単位根を持つ系列にはこの引き戻しがありません。個々のショックの影響が減衰せず水準に恒久的に残るため、系列は決まった水準を持たずに漂います。この持続する成分を確率的トレンドと呼び、ランダムウォークが典型です。

2 つの仮説の関係は、系列をランダムウォーク成分と定常な変動の和に分解するとはっきりします。 $y_t = \xi_t + \varepsilon_t$ （ $\xi_t = \xi_{t-1} + u_t$ 、 $u_t$ の分散は $\sigma_u^2$ ）と書くと、 $\sigma_u^2 = 0$ なら $\xi_t$ は初期値から動かず系列は水準定常に、 $\sigma_u^2 > 0$ なら系列は単位根を持ちます。KPSS が検定するのはこの $\sigma_u^2 = 0$ です。

水準定常性を帰無仮説に置くため、差分を進めるには定常性に反する積極的な証拠が必要で、手続きは差分に対して保守的になります。検定統計量は、系列を平均で中心化した残差の累積和の大きさを、系列の長期分散の推定量で規格化した量です。ランダムウォーク成分が存在すれば累積和は際限なく育ち、統計量は標本数とともに大きくなります。

MIDAS は判定閾値に KPSS 統計量の漸近帰無分布の 5% 臨界値 $0.463$ を使います。これは絶対的な基準ではなく、差分するかどうかを決める固定の定数です。

逐次手続きの正当性と閾値の役割

この手続きは、同じ系列に検定を繰り返し適用し、その結果で次に検定するかどうかを決めています。逐次的な検定の典型であり、多重検定の問題を疑ってよい形です。それでも正当化できるのは、個々の検定の結果を推論として解釈していないからです。手続き全体を $d$ を決める 1 つの決定規則とみなし、真のモデルを仮定したときにこの規則が誤った $d$ を返す確率を直接評価します。

真の過程が単位根を $d_0$ 個持つとします。決定規則の振る舞いは 3 つの場合に分けて評価できます。

過小差分（ $d_0$ より手前で止まる）: $d < d_0$ の段階では差分後の系列になお確率的トレンドが残り、KPSS 統計量は標本数とともに発散します。手前で止まる確率は標本数とともに 0 に近づきます
ちょうど $d_0$ で止まる: $d = d_0$ で系列は定常になり帰無仮説が成り立つので、検定が誤って棄却する確率は漸近的に $\alpha$ です。ちょうど $d_0$ で止まる確率は $1-\alpha$ に近づきます
過剰差分（ $d_0$ を超える）: 残る確率およそ $\alpha$ で起こります。超えた先の系列も定常で帰無仮説が成り立つため、ほとんどの場合 1 階の過剰で止まります

閾値に対応する $\alpha$ は、過剰差分の漸近確率をそのまま制御するパラメータです。漸近評価だけを見れば $\alpha$ は小さいほどよく見えます。過小差分の確率は標本数とともに 0 に近づき、残る誤りは確率 $\alpha$ の過剰差分だけだからです。

しかし有限標本では過小差分も現実に起こります。 $d < d_0$ の段階で検定が単位根を検出する確率（検出力）は 1 より小さく、確率的トレンドが定常な変動に比べて弱い系列や短い系列では、棄却に届かず手前で止まることがあります。 $\alpha$ を小さくすると過剰差分は減りますが、検出力が下がって過小差分は増えます。有限標本での $\alpha$ は、2 つの誤りの配分を決めるパラメータです。

過小差分は確率的トレンドをモデルに残し、当てはめたモデルが非定常になります。AR 係数の推定は定常な過程を前提とするため、たとえばランダムウォークに差分なしで AR(1) を当てはめると、真値は係数がちょうど 1 の場合にあたり、推定値は定常領域（ $-1$ と $1$ の間）の端に張り付いて不安定になります。係数テーブルの AR 係数が 1 のすぐ近くに出ているときは、この兆候です。

過剰差分の害は種類が違います。定常な系列をさらに差分しても、系列は定常なままです。代わりに、要らなかった差分を MA 係数が打ち消す形の過程になります。たとえばホワイトノイズを 1 回余計に差分すると、係数がちょうど $-1$ の MA(1) になります。MA 係数の推定は $-1$ と $1$ に挟まれた領域の内側を前提とするので（この内側にある MA を可逆と呼びます）、真値が領域のちょうど端に乗ると、推定値は端に張り付いて不安定になります。

この配分に理論的な最適値はありません。最適化には確率的トレンドの強さの想定と損失関数の指定が要り、どちらもデータからは与えられないからです。5%（ $\alpha = 0.05$ ）は、過小差分の害を過剰差分の害より重く見て $\alpha$ を絞りすぎない側に倒した、慣行の値です。

留保が 3 つあります。1 つ目は、この評価が確率的トレンドだけを想定している点です。KPSS は水準（定数項のみ）定常性を帰無仮説とするため、単位根はなく決定論的な線形トレンドだけを持つ系列（トレンド定常）でも統計量は標本数とともに発散し、真の差分次数が 0 でもほぼ確実に差分されます。確率 $\alpha$ に抑えた過剰差分とは別枠の、系統的な過剰差分です。差分後はトレンドの傾きがドリフト（差分後のモデルの定数項）として推定されるのでトレンド自体は失われませんが、過剰差分の害は同じように生じます。

この系統的な過剰差分は、線形トレンド項を持つモデルを選ぶことで避けられます。ARIMA タブの Include Linear Trend（Agent API の includeTrend）を有効にすると、モデルに決定論的な線形トレンド項が加わり、差分前の系列への判定が、トレンド定常性を帰無仮説とする KPSS の変種（判定閾値 $0.146$ ）に切り替わります。トレンド定常の系列では帰無仮説が成り立つので統計量は発散せず、誤って差分する確率は水準定常の系列を水準版で判定するときと同じく漸近的に $\alpha$ に抑えられます。 $d = 0$ で止まった場合、トレンドの傾きは切片や AR/MA 係数と同時に最尤推定され、信頼区間と情報量規準に反映されます。1 回差分した系列では線形トレンドが定数（ドリフト）になるため、差分後の系列への判定は水準版に戻ります。有限標本での検出力の限界は水準版と同じ形で残ります。トレンド版は帰無仮説の側が決定論的トレンドを吸収するぶん、同じ標本数では単位根に対する検出力が水準版より下がるため、単位根を持つ系列が棄却に届かず、差分されないままトレンド付きモデルとして当てはまる過小差分が起こりやすくなります。このときの兆候も、AR 係数の推定値が 1 のすぐ近くに出ることです。

2 つ目は、KPSS が有限標本でサイズに歪みを持ち、強い短期自己相関があると長期分散の推定次第で過剰に棄却する点です。 $\text{maxD}$ の上限がこの暴走を抑えます。

3 つ目は、選ばれた $d$ がデータに依存する確率変数になる点です。後続の係数の信頼区間は、選ばれた次数を所与とした条件付きの区間になります。これは KPSS 固有の性質ではなく、あらゆる自動次数選択に共通します。

季節モデルでの次数選択

季節周期 $s$ を 2 以上に指定すると、モデルは季節次数を加えた ARIMA(p,d,q)(P,D,Q)[s]（季節 ARIMA、SARIMA とも呼ばれます）になり、選ぶ次数に季節差分次数 $D$ と季節 AR/MA 次数 $P, Q$ が加わります。 $s$ は 1 周期あたりの観測数で、月次データの年周期なら $s = 12$ です。それでも選択の枠組みは変わりません。季節差分（ $s$ 期前の値との差を取る操作）も通常の差分と同じく、モデルが説明する対象のデータを入れ替えるため、 $D$ の異なる候補は尤度で比べられません。差分次数 $d, D$ は検定で先に決め、AIC/BIC による選択は同一の $(d, D)$ のもとでの $p, q, P, Q$ に限ります。

手続きは季節差分の判定から始まります。単位根を持つ系列で水準が漂うのと同じように、季節単位根を持つ系列ではショックの影響が季節パターンに恒久的に残り、パターン自体が時間とともに変わっていきます。MIDAS は元の系列への OCSB 検定（Osborn, Chui, Smith, Birchenhall による季節単位根の検定）で $D$ を 0 か 1 に決めます。2 階以上の季節差分は選びません。KPSS と同じく検定を差分するかどうかの決定規則として使い、示すのは選ばれた $D$ と、統計量が判定閾値を超えたかどうかという操作的な事実だけです。

通常の差分次数 $d$ は、季節差分後の系列への KPSS 検定で決めます。 $s$ 期前との差は直近 $s$ 期分の前期差を足し合わせた量なので、季節差分は通常の差分の働きを 1 回分含みます。元の系列で $d$ を判定するとこの分が重複して差分が過剰になるため、KPSS の対象を季節差分後の系列にします。残る次数 $p, q, P, Q$ は、決めた $(d, D)$ を固定したまま全組み合わせを当てはめ、AIC または BIC が最小の候補を選びます。

通常差分と季節差分を合わせると $d + D \geq 2$ に達することがあります（airline モデル ARIMA(0,1,1)(0,1,1)[s] は $d = D = 1$ です）。 $d + D \geq 2$ のとき、MIDAS は定数項を要求されていても推定しません。 $d + D$ 回差分した系列の定数項は、元の系列では次数 $d + D$ の確定的な多項式トレンド（ $d + D = 2$ なら二次トレンド）に積分されて戻るためです。 $d + D = 1$ では定数項を残し、上で述べたドリフトとして報告します。

参考文献

Hyndman, R. J., & Khandakar, Y. (2008). Automatic time series forecasting: The forecast package for R. Journal of Statistical Software, 27(3), 1-22. https://www.jstatsoft.org/article/view/v027i03

このページの Markdown 版もあります。