Summarize Timeline Top Qs Fact Check AR(p ) という表記は次数 p の自己回帰モデルを表す。AR(p )モデルは次の式で表される。
X
t
=
c
+
∑
i
=
1
p
φ
i
X
t
−
i
+
ε
t
.
{\displaystyle X_{t}=c+\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\varepsilon _{t}.\,}
ここで
φ
1
,
…
,
φ
p
{\displaystyle \varphi _{1},\ldots ,\varphi _{p}}
パラメータ 、
c
{\displaystyle c}
ε
t
{\displaystyle \varepsilon _{t}}
自己回帰モデルは基本的に無限インパルス応答 フィルタに一種の変形を加えたものである。
モデルとして定常的 であるために、パラメータの値には何らかの制約が必要である。例えば、|φ1 | > 1 となる AR(1)モデルは定常的ではない。
AR(1)過程は次の式で表される。
X
t
=
c
+
φ
X
t
−
1
+
ε
t
,
{\displaystyle X_{t}=c+\varphi X_{t-1}+\varepsilon _{t},\,}
ここで、
ε
t
{\displaystyle \varepsilon _{t}}
σ
2
{\displaystyle \sigma ^{2}}
ホワイトノイズ である（
φ
1
{\displaystyle \varphi _{1}}
|
φ
|
<
1
{\displaystyle |\varphi |<1}
共分散定常性 を有する。
φ
=
1
{\displaystyle \varphi =1}
X
t
{\displaystyle X_{t}}
単位根 を表し、ランダムウォーク と見なされ、共分散定常性を有しない。そうでない場合、
X
t
{\displaystyle X_{t}}
E
(
X
t
)
=
E
(
c
)
+
φ
E
(
X
t
−
1
)
+
E
(
ε
t
)
⇒
μ
=
c
+
φ
μ
+
0.
{\displaystyle {\mbox{E}}(X_{t})={\mbox{E}}(c)+\varphi {\mbox{E}}(X_{t-1})+{\mbox{E}}(\varepsilon _{t})\Rightarrow \mu =c+\varphi \mu +0.}
従って、次のようになる。
μ
=
c
1
−
φ
,
{\displaystyle \mu ={\frac {c}{1-\varphi }},}
ここで
μ
{\displaystyle \mu }
平均 も 0 になり、分散 は次のようになる。
var
(
X
t
)
=
E
(
X
t
2
)
−
μ
2
=
σ
2
1
−
φ
2
.
{\displaystyle {\textrm {var}}(X_{t})=E(X_{t}^{2})-\mu ^{2}={\frac {\sigma ^{2}}{1-\varphi ^{2}}}.}
自己共分散 は次の式で表される。
B
n
=
E
(
X
t
+
n
X
t
)
−
μ
2
=
σ
2
1
−
φ
2
φ
|
n
|
.
{\displaystyle B_{n}=E(X_{t+n}X_{t})-\mu ^{2}={\frac {\sigma ^{2}}{1-\varphi ^{2}}}\,\,\varphi ^{|n|}.}
この自己共分散関数は減衰時間
τ
=
−
1
/
ln
(
φ
)
{\displaystyle \tau =-1/\ln(\varphi )}
B
n
=
K
ϕ
|
n
|
{\displaystyle B_{n}=K\phi ^{|n|}}
K
{\displaystyle K}
n
{\displaystyle n}
ϕ
|
n
|
=
e
|
n
|
ln
ϕ
{\displaystyle \phi ^{|n|}=e^{|n|\ln \phi }}
e
−
n
/
τ
{\displaystyle e^{-n/\tau }}
スペクトル密度 関数は自己共分散関数の逆フーリエ変換 である。離散系では、離散時間逆フーリエ変換が適用される。
Φ
(
ω
)
=
1
2
π
∑
n
=
−
∞
∞
B
n
e
−
i
ω
n
=
1
2
π
(
σ
2
1
+
φ
2
−
2
φ
cos
(
ω
)
)
.
{\displaystyle \Phi (\omega )={\frac {1}{\sqrt {2\pi }}}\,\sum _{n=-\infty }^{\infty }B_{n}e^{-i\omega n}={\frac {1}{\sqrt {2\pi }}}\,\left({\frac {\sigma ^{2}}{1+\varphi ^{2}-2\varphi \cos(\omega )}}\right).}
X
j
{\displaystyle X_{j}}
折り返し雑音 （エイリアス）を表している。標本化間隔(
Δ
t
=
1
{\displaystyle \Delta t=1}
τ
{\displaystyle \tau }
B
n
{\displaystyle B_{n}}
B
(
t
)
≈
σ
2
1
−
φ
2
φ
|
t
|
{\displaystyle B(t)\approx {\frac {\sigma ^{2}}{1-\varphi ^{2}}}\,\,\varphi ^{|t|}}
この場合、スペクトル密度はローレンツ分布 に従う。
Φ
(
ω
)
==
1
2
π
σ
2
1
−
φ
2
γ
π
(
γ
2
+
ω
2
)
{\displaystyle \Phi (\omega )=={\frac {1}{\sqrt {2\pi }}}\,{\frac {\sigma ^{2}}{1-\varphi ^{2}}}\,{\frac {\gamma }{\pi (\gamma ^{2}+\omega ^{2})}}}
ここで
γ
=
1
/
τ
{\displaystyle \gamma =1/\tau }
τ
{\displaystyle \tau }
X
t
{\displaystyle X_{t}}
X
t
−
1
{\displaystyle X_{t-1}}
c
+
φ
X
t
−
2
+
ε
t
−
1
{\displaystyle c+\varphi X_{t-2}+\varepsilon _{t-1}}
N 回繰り返すと次の式になる。
X
t
=
c
∑
k
=
0
N
−
1
φ
k
+
φ
N
X
φ
−
N
+
∑
k
=
0
N
−
1
φ
k
ε
t
−
k
.
{\displaystyle X_{t}=c\sum _{k=0}^{N-1}\varphi ^{k}+\varphi ^{N}X_{\varphi -N}+\sum _{k=0}^{N-1}\varphi ^{k}\varepsilon _{t-k}.}
N が無限大に近づくと、
φ
N
{\displaystyle \varphi ^{N}}
X
t
=
c
1
−
φ
+
∑
k
=
0
∞
φ
k
ε
t
−
k
{\displaystyle X_{t}={\frac {c}{1-\varphi }}+\sum _{k=0}^{\infty }\varphi ^{k}\varepsilon _{t-k}}
AR(p )モデルは次の方程式で与えられる。
X
t
=
∑
i
=
1
p
φ
i
X
t
−
i
+
ε
t
.
{\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}X_{t-i}+\varepsilon _{t}.\,}
これはパラメータ
φ
i
{\displaystyle \varphi _{i}}
i = 1, ..., p ）に基づいている。これらパラメータは以下の Yule-Walker方程式 で計算できる可能性がある。
γ
m
=
∑
k
=
1
p
φ
k
γ
m
−
k
+
σ
ε
2
δ
m
{\displaystyle \gamma _{m}=\sum _{k=1}^{p}\varphi _{k}\gamma _{m-k}+\sigma _{\varepsilon }^{2}\delta _{m}}
ここで m = 0, ... , p であり、p + 1 個の方程式となる。
γ
m
{\displaystyle \gamma _{m}}
σ
ε
{\displaystyle \sigma _{\varepsilon }}
m はクロネッカーのデルタ である。
この式の最後の部分は m = 0 のときだけ 0 でない値となるので、この方程式は一般に m > 0 のときの行列式で表すことで解ける。
[
γ
1
γ
2
γ
3
⋮
]
=
[
γ
0
γ
−
1
γ
−
2
…
γ
1
γ
0
γ
−
1
…
γ
2
γ
1
γ
0
…
…
…
…
…
]
[
φ
1
φ
2
φ
3
⋮
]
{\displaystyle {\begin{bmatrix}\gamma _{1}\\\gamma _{2}\\\gamma _{3}\\\vdots \\\end{bmatrix}}={\begin{bmatrix}\gamma _{0}&\gamma _{-1}&\gamma _{-2}&\dots \\\gamma _{1}&\gamma _{0}&\gamma _{-1}&\dots \\\gamma _{2}&\gamma _{1}&\gamma _{0}&\dots \\\dots &\dots &\dots &\dots \\\end{bmatrix}}{\begin{bmatrix}\varphi _{1}\\\varphi _{2}\\\varphi _{3}\\\vdots \\\end{bmatrix}}}
これにより
φ
{\displaystyle \varphi }
m = 0 のときは次のようになる。
γ
0
=
∑
k
=
1
p
φ
k
γ
−
k
+
σ
ε
2
{\displaystyle \gamma _{0}=\sum _{k=1}^{p}\varphi _{k}\gamma _{-k}+\sigma _{\varepsilon }^{2}}
これにより
σ
ε
2
{\displaystyle \sigma _{\varepsilon }^{2}}
AR過程を定義する方程式は次の通りである。
X
t
=
∑
i
=
1
p
φ
i
X
t
−
i
+
ε
t
.
{\displaystyle X_{t}=\sum _{i=1}^{p}\varphi _{i}\,X_{t-i}+\varepsilon _{t}.\,}
両辺に Xt-m をかけて、期待値を求めるとしたとき、次のようになる。
E
[
X
t
X
t
−
m
]
=
E
[
∑
i
=
1
p
φ
i
X
t
−
i
X
t
−
m
]
+
E
[
ε
t
X
t
−
m
]
.
{\displaystyle E[X_{t}X_{t-m}]=E\left[\sum _{i=1}^{p}\varphi _{i}\,X_{t-i}X_{t-m}\right]+E[\varepsilon _{t}X_{t-m}].}
自己共分散関数の定義から、
E
[
X
t
X
t
−
m
]
=
γ
m
{\displaystyle E[X_{t}X_{t-m}]=\gamma _{m}}
m について X t − m t に独立である。m ≠ 0 の場合、
E
[
ε
t
X
t
−
m
]
=
0
{\displaystyle E[\varepsilon _{t}X_{t-m}]=0}
m = 0 の場合、次のようになる。
E
[
ε
t
X
t
]
=
E
[
ε
t
(
∑
i
=
1
p
φ
i
X
t
−
i
+
ε
t
)
]
=
∑
i
=
1
p
φ
i
E
[
ε
t
X
t
−
i
]
+
E
[
ε
t
2
]
=
0
+
σ
ε
2
,
{\displaystyle E[\varepsilon _{t}X_{t}]=E\left[\varepsilon _{t}(\sum _{i=1}^{p}\varphi _{i}\,X_{t-i}+\varepsilon _{t})\right]=\sum _{i=1}^{p}\varphi _{i}\,E[\varepsilon _{t}\,X_{t-i}]+E[\varepsilon _{t}^{2}]=0+\sigma _{\varepsilon }^{2},}
従って、次が得られる。
γ
m
=
E
[
∑
i
=
1
p
φ
i
X
t
−
i
X
t
−
m
]
+
σ
ε
2
δ
m
.
{\displaystyle \gamma _{m}=E\left[\sum _{i=1}^{p}\varphi _{i}\,X_{t-i}X_{t-m}\right]+\sigma _{\varepsilon }^{2}\delta _{m}.}
さらに
E
[
∑
i
=
1
p
φ
i
X
t
−
i
X
t
−
m
]
=
∑
i
=
1
p
φ
i
E
[
X
t
X
t
−
m
+
i
]
=
∑
i
=
1
p
φ
i
γ
m
−
i
,
{\displaystyle E\left[\sum _{i=1}^{p}\varphi _{i}\,X_{t-i}X_{t-m}\right]=\sum _{i=1}^{p}\varphi _{i}\,E[X_{t}X_{t-m+i}]=\sum _{i=1}^{p}\varphi _{i}\,\gamma _{m-i},}
これにより次の Yule-Walker方程式が導かれる。
γ
m
=
∑
i
=
1
p
φ
i
γ
m
−
i
+
σ
ε
2
δ
m
.
{\displaystyle \gamma _{m}=\sum _{i=1}^{p}\varphi _{i}\gamma _{m-i}+\sigma _{\varepsilon }^{2}\delta _{m}.}
![{\displaystyle E[X_{t}X_{t-m}]=E\left[\sum _{i=1}^{p}\varphi _{i}\,X_{t-i}X_{t-m}\right]+E[\varepsilon _{t}X_{t-m}].}](http://wikimedia.org/api/rest_v1/media/math/render/svg/d0824e2d072b36aae0431637988b5efdb598d42d)
![{\displaystyle E[X_{t}X_{t-m}]=\gamma _{m}}](http://wikimedia.org/api/rest_v1/media/math/render/svg/a83cae7a52be28db9730b476daa590d1f54aa92b)
![{\displaystyle E[\varepsilon _{t}X_{t-m}]=0}](http://wikimedia.org/api/rest_v1/media/math/render/svg/f3e0881b9b1ff67030ad51141404f301e8e4fb45)
![{\displaystyle E[\varepsilon _{t}X_{t}]=E\left[\varepsilon _{t}(\sum _{i=1}^{p}\varphi _{i}\,X_{t-i}+\varepsilon _{t})\right]=\sum _{i=1}^{p}\varphi _{i}\,E[\varepsilon _{t}\,X_{t-i}]+E[\varepsilon _{t}^{2}]=0+\sigma _{\varepsilon }^{2},}](http://wikimedia.org/api/rest_v1/media/math/render/svg/395aab62bda98aad7198afda1e1f47b407e87325)
![{\displaystyle \gamma _{m}=E\left[\sum _{i=1}^{p}\varphi _{i}\,X_{t-i}X_{t-m}\right]+\sigma _{\varepsilon }^{2}\delta _{m}.}](http://wikimedia.org/api/rest_v1/media/math/render/svg/6bbd0638b2d0cf352d9aa0f73bd755f4967f71ad)
![{\displaystyle E\left[\sum _{i=1}^{p}\varphi _{i}\,X_{t-i}X_{t-m}\right]=\sum _{i=1}^{p}\varphi _{i}\,E[X_{t}X_{t-m+i}]=\sum _{i=1}^{p}\varphi _{i}\,\gamma _{m-i},}](http://wikimedia.org/api/rest_v1/media/math/render/svg/ee3e9767b458cf0551a71c2996f5adbfcd9f9cde)
