カイ二乗適合度検定を具体例から理解する｜理論の証明も解説

確率変数ベクトル$\m{Z}$と行列$A$の定義

証明の中で重要となる$\m{Z}$と$A$を次のように定める．

\begin{align*}&Z_\ell=\sqrt{n}\bra{\frac{X_\ell}{n}-r_\ell};&&\ell=1,2,\dots,k-1,
\\&a_{i,j}=\begin{cases}\frac{1}{r_k}+\frac{1}{r_i},&i=j,\\\frac{1}{r_k},&i\neq j;\end{cases}&& i,j=1,2,\dots,k-1\end{align*}

とおいて，

• $(k-1)$次確率変数ベクトル$\m{Z}$を$\m{Z}=\sbmat{Z_1\\\vdots\\Z_{k-1}}$
• $(k-1)$次正方行列$A$を$A=(a_{i,j})$

で定める．

$Q_n(X_1,X_2,\dots,X_k)=\m{Z}^{T}A\m{Z}$の証明

$X_1+X_2+\dots+X_k=n$, $r_1+r_2+\dots+r_k=1$だから，ピアソンのカイ二乗検定統計量

\begin{align*}Q_n(X_1,X_2,\dots,X_k)=\sum\limits_{i=1}^{k}\frac{(X_i-nr_i)^2}{nr_i}\end{align*}

の最後の第$k$項は

\begin{align*}\frac{(X_k-nr_k)^2}{nr_k}
&=\frac{\{(n-X_1-\dots-X_{k-1})-n(1-r_1-\dots-r_{k-1})\}^2}{nr_k}
\\&=\frac{\{(X_1-nr_1)+\dots+(X_{k-1}-nr_{k-1})\}^2}{nr_k}
\\&=\sum_{i=1}^{k-1}\frac{(X_i-nr_i)^2}{nr_k}+\sum_{\substack{i,j=1\\i\neq j}}^{k-1}\frac{(X_i-nr_i)(X_j-nr_j)}{nr_k}\end{align*}

となる．よって，

\begin{align*}&Q_n(X_1,X_2,\dots,X_k)
\\&=\frac{(X_k-nr_k)^2}{nr_k}+\sum_{i=1}^{k-1}\frac{(X_i-nr_i)^2}{nr_i}
\\&=\sum_{i=1}^{k-1}\bra{\frac{1}{nr_k}+\frac{1}{nr_i}}(X_i-nr_i)^2+\sum_{\substack{i,j=1\\i\neq j}}^{k-1}\frac{(X_i-nr_i)(X_j-nr_j)}{nr_k}
\\&=n\sum_{i=1}^{k-1}\bra{\frac{1}{r_k}+\frac{1}{r_i}}\bra{\frac{X_i}{n}-r_i}^2+n\sum_{\substack{i,j=1\\i\neq j}}^{k-1}\frac{1}{r_k}\bra{\frac{X_i}{n}-r_i}\bra{\frac{X_j}{n}-r_j}
\\&=\sum_{i=1}^{k-1}a_{i,i}Z_i^2+\sum_{\substack{i,j=1\\i\neq j}}^{k-1}a_{i,j}Z_iZ_j
=\sum_{i,j=1}^{k-1}a_{i,j}Z_iZ_j
=\m{Z}^TA\m{Z}\end{align*}

が成り立つ．

$\m{Z}$が$n\to\infty$で漸近的に正規分布に従うことの証明

独立な$\m{Y}_1,\m{Y}_2,\dots,\m{Y}_n\sim\mrm{Mult}_1(p_1,p_2,\dots,p_k)$をとると，補題１より

\begin{align*}\sbmat{X_1\\\vdots\\X_k}=\m{Y}_1+\m{Y}_2+\dots+\m{Y}_n\end{align*}

が成り立つ．よって，$\m{Y}_\ell$の第$k$成分を取り除いてできる$k-1$次元確率変数ベクトルを$\m{Y}’_\ell$とおき（$\ell=1,2,\dots,n$），$\m{r}:=\sbmat{r_1\\\vdots\\r_{k-1}}$とおくと

\begin{align*}\m{Z}=\sqrt{n}\bra{\overline{\m{Y}’}-\m{r}},\quad
\overline{\m{Y}’}:=\frac{\m{Y}’_1+\m{Y}’_2+\dots+\m{Y}’_n}{n}\end{align*}

が成り立つ．

帰無仮説$H_0:p_i=r_i$（$i=1,2,\dots,k$）のもとで，多項分布の性質から$E[\m{Y}’_1]=\m{r}$であり，

\begin{align*}\sigma_{i,j}=\begin{cases}r_i(1-r_i),&i=j,\\-r_ir_j,&i\neq j;\end{cases}\qquad i,j=1,2,\dots,k-1\end{align*}

とおくと$\Sigma:=V[\m{Y}’_1]=(\sigma_{i,j})$だから，多変量の中心極限定理（補題２）より$\m{Z}$は漸近的に$(k-1)$次元正規分布$N_{k-1}(0,\Sigma)$に従う（分布収束）．

$A=\Sigma^{-1}$の証明

$r_1+r_2+\dots+r_k=1$に注意する．任意の$i\in\{1,2,\dots,k-1\}$に対して，$A\Sigma$の第$(i,i)$成分は

\begin{align*}&\sum_{m=1}^{k-1}a_{i,m}\sigma_{m,i}=a_{i,i}\sigma_{i,i}+\sum_{\substack{m=1\\m\neq i}}^{k-1}a_{i,m}\sigma_{m,i}
\\&=\bra{\frac{1}{r_k}+\frac{1}{r_i}}\cdot r_i(1-r_i)+\sum_{\substack{m=1\\m\neq i}}^{k-1}\frac{-r_mr_i}{r_k}
\\&=\frac{r_i(1-r_i)}{r_k}+(1-r_i)-\frac{r_i}{r_k}\sum_{\substack{m=1\\m\neq i}}^{k-1}r_m
\\&=\frac{r_i(1-r_i)}{r_k}+(1-r_i)-\frac{r_i}{r_k}(1-r_i-r_k)=1\end{align*}

である．また，任意の異なる$i,j\in\{1,2,\dots,k-1\}$に対して，$A\Sigma$の第$(i,j)$成分は

\begin{align*}&\sum_{m=1}^{k-1}a_{i,m}\sigma_{m,j}=a_{i,i}\sigma_{i,j}+a_{i,j}\sigma_{j,j}+\sum_{\substack{m=1\\m\neq i,j}}^{k-1}a_{i,m}\sigma_{m,j}
\\&=\bra{\frac{1}{r_k}+\frac{1}{r_i}}(-r_ir_j)+\frac{r_j(1-r_j)}{r_k}+\sum_{\substack{m=1\\m\neq i,j}}^{k-1}\frac{-r_mr_j}{r_k}
\\&=-\frac{r_ir_j}{r_k}-r_j+\frac{r_j(1-r_j)}{r_k}-\frac{r_j}{r_k}\sum_{\substack{m=1\\m\neq i,j}}^{k-1}r_m
\\&=-\frac{r_ir_j}{r_k}-r_j+\frac{r_j(1-r_j)}{r_k}-\frac{r_j}{r_k}(1-r_i-r_j-r_k)=0\end{align*}

である．よって，$A\Sigma=I_{k-1}$が従う．

一般に，$n$次正方行列$A,B$が$AB=I_n$を満たせば，$A$（と$B$）は正則行列で$A=B^{-1}$を満たすので，$A=\Sigma^{-1}$が成り立つ．

$Q_n(X_1,X_2,\dots,X_k)\xrightarrow[]{n\to\infty}_{d}\chi^2(k-1)$の証明

$Q_n(X_1,X_2,\dots,X_k)=\m{Z}^TA\m{Z}$と$A=\Sigma^{-1}$より

\begin{align*}Q_n(X_1,X_2,\dots,X_k)=\m{Z}^T\Sigma^{-1}\m{Z}\end{align*}

である．$\m{Z}$は漸近的に$(k-1)$次元正規分布$N_{k-1}(0,\Sigma)$に従う（分布収束）から，連続写像定理と補題３を併せて，

\begin{align*}Q_n(X_1,X_2,\dots,X_k)\xrightarrow[]{n\to\infty}_{d}\chi^2(k-1)\end{align*}が成り立つ．