やがてめぐになる

さんすうとえいごのおべんきょうブログ。ほかにもかきたいことをかきます。

多次元正規分布の条件付き分布

ガウス過程に出てくる計算で使う式をメモしとくよ!

 X n 次元正規分布  N(\mu_n, V_n)に従う確率変数とし、 Y \mathbb{R}^m-値確率変数とする。また、確率変数  (X,Y) n+m 次元正規分布  N(\mu, V) に従うとする。ただし、
\begin{align*}
\mu =
\begin{pmatrix}
\mu_n \\
\mu_m
\end{pmatrix}, \quad
V =
\begin{pmatrix}
V_n & V_{nm} \\
{}^tV_{nm} & V_m
\end{pmatrix}
\end{align*}
である。このとき、 X=x に関する  Y の条件付き分布は
\begin{multline*}
P(Y\in dy|X=x) \\[.5em]
= (2\pi)^{-\frac{m}{2}} (\det \tilde{V}_m)^{-\frac{1}{2}} \exp \left(-\frac{(y-\tilde{\mu}_m)\cdot \tilde{V}_m^{-1}(y-\tilde{\mu}_m)}{2} \right) dy, \\
\mbox{$P_{X}$-a.e.$\,x$}
\end{multline*}
である。ただし、 \tilde{\mu}_m:=\mu_m+{}^tV_{nm}V_n^{-1}(x-\mu_n),  \tilde{V}_m:=V_m-{}^tV_{nm}V_n^{-1}V_{nm} である。


証明.  \det V = \det V_n \cdot \det(V_m - {}^tV_{nm}V_n^{-1}V_{nm})
\begin{align*}
V^{-1} =
\begin{pmatrix}
V_n^{-1} + V_n^{-1}V_{nm}\tilde{V}_m^{-1}{}^tV_{nm}V_n^{-1} & -V_n^{-1}V_{nm}\tilde{V}_m^{-1} \\
-\tilde{V}_m^{-1}{}^tV_{nm}V_n^{-1} & \tilde{V}_m^{-1}
\end{pmatrix}
\end{align*}
を用いる。 A\in \mathcal{B}(\mathbb{R}^m),  B\in \mathcal{B}(\mathbb{R}^n) に対し、
\begin{align*}
& E[\boldsymbol{1}_A(Y) \boldsymbol{1}_B(X)] \\
&= \int dx~\boldsymbol{1}_B(x) (2\pi)^{-\frac{n}{2}} (\det V_n)^{-\frac{1}{2}} \exp\left( -\frac{(x-\mu_n)\cdot V_n^{-1}(x-\mu_n)}{2} \right) \\
& \qquad \times \int dy ~\boldsymbol{1}_A(y)(2\pi)^{-\frac{m}{2}} (\det \tilde{V}_m)^{-\frac{1}{2}} \exp\left( -\frac{(y-\tilde{\mu}_m)\cdot \tilde{V}_m^{-1}(y-\tilde{\mu}_m)}{2} \right) \\
&= \int_B P_X(dx) \int_A dy ~(2\pi)^{-\frac{m}{2}} (\det \tilde{V}_m)^{-\frac{1}{2}} \exp\left( -\frac{(y-\tilde{\mu}_m)\cdot \tilde{V}_m^{-1}(y-\tilde{\mu}_m)}{2} \right)
\end{align*}
となる。□