最尤推定法・尤度関数の直感的な考え方|データから分布を推定

統計学
統計学

何らかの全国規模の調査を行いたいとき,対象者全員に調査することができれば最もよいですが,それは時間やコストなどの面から現実的ではありません.

そのため,実際には対象者の一部に調査を行い,そこで得られたデータから対象者全員の分布を推測することになります.

その推測の方法は色々ありますが,ひとつに最尤推定法というものがあり,名前の通り「最もそれっぽい(尤もらしい)分布を推定する方法」です.

「最尤推定法」という名前を聞くといかめしい印象を受けるかもしれませんが,考え方自体はシンプルでそれほど難しいものではありません.

この記事では

  • 最尤推定法の考え方
  • 最尤推定法の具体例
  • 尤度関数と対数尤度関数

を順に説明します.

最尤推定法の考え方

最尤推定法を使う際には,最初に

  1. どのような分布に従うのか
  2. 実際に得られたデータ

の2つを用意します.例えば,「全国の成人男性の身長」を最尤推定法で考える際には

  1. 全国の成人男性の身長は「正規分布」に従う
  2. 1000人の成人男性の身長のデータ

などが既に分かっているものとします.この2つから「全国の成人男性の身長」がどのように分布しているかを推定するわけですね.

ここからしばらく次の問題を考えましょう.

ある正規分布から6個のデータ$4.4$, $5.3$, $5.2$, $5.7$, $4.7$, $4.1$が得られた.このときの正規分布を最尤推定法により推定せよ.

最尤推定法で考える分布は一般には正規分布とは限りませんが,正規分布でなくても考え方は同じなので,この記事では正規分布で考えます.

分布を推定するとは

「正規分布を推定する」とはどういうことでしょうか?

正規分布は下図のような山のような形をしたグラフで表される分布でした.

Rendered by QuickLaTeX.com

ただし,「正規分布」と一言で言っても,グラフの

  • 裾の広がり方(分散)
  • 真ん中の位置(平均)

に特徴が表れます.例えば,なだらかな(分散が大きい)正規分布のグラフ

Rendered by QuickLaTeX.com

になることもありますし,山の頂上の$x$が$0$でない(平均が$0$でない)正規分布のグラフ

Rendered by QuickLaTeX.com

になることもあります.

よって,分布を推定するとは「このような色々な分布の中で,どれが最もそれっぽい正規分布なのかを推定しよう」ということなわけです.

正規分布の平均と分散のように,分布の特徴を示すものをパラメーターと言うことも多いですね.

最尤推定法の考え方

ここで,問題の6個のデータ$4.4$, $5.3$, $5.2$, $5.7$, $4.7$, $4.1$を数直線上に図示すると下図のようになります.

Rendered by QuickLaTeX.com

さらに,このデータが正規分布に従うことが分かっているとします.

このとき,「どんな正規分布だと思いますか?」と聞くと,多くの人は以下のようなグラフを描くのではないでしょうか?

Rendered by QuickLaTeX.com

一方,多くのデータが集まっているところからずれたグラフ

Rendered by QuickLaTeX.com

はなさそうですし,あまりに集中しすぎたグラフ

Rendered by QuickLaTeX.com

もなさそうです.

つまり,「データがあるところの値が出来るだけ大きくなるような分布がそれっぽい」ということになります.

したがって,正規分布の確率密度関数を$f$とし,6個のデータ$4.4$, $5.3$, $5.2$, $5.7$, $4.7$, $4.1$を$f$に代入して掛け合わせた

   \begin{align*}L=f(4.4)f(5.3)f(5.2)f(5.7)f(4.7)f(4.1)\end{align*}

が最大になるような確率密度関数$f$をもつ分布が,最もそれっぽい正規分布ということができますね.

いまは暗にデータが独立に正規分布に従うことを仮定しているので積になっていますが,独立とは限らないより一般の場合では同時確率密度関数となります.

要するに「下図の青線の長さの積が最大になる$f(x)$が最もそれっぽい$f(x)$である」という考え方ですね.

Rendered by QuickLaTeX.com

このような考え方に基づく分布の推定方法を最尤推定法といいます.

正規分布の最尤推定法

以上が最尤推定法の考え方で,次はいま考えたことを一般化することを考えましょう.

尤度関数

ある分布に独立に従う$n$個のデータ$x_1,x_2,\dots,x_n$に対して,この分布の確率密度関数を$f$とするとき,

   \begin{align*}L=\prod_{k=1}^{n}f(x_k)\end{align*}

尤度関数 (likelihood function)といい,尤度関数が最大となる$f$を求めることにより分布を推定する方法を最尤推定法 (method of maximum likelihood estimation)という.

上の尤度関数$L$の定義における$\dprod_{k=1}^{n}$は$\dsum_{k=1}^{n}$の掛け算バージョンです.つまり,

   \begin{align*}L=f(x_1)\times f(x_2)\times\dots\times f(x_n)\end{align*}

です.なお,$\Pi$はギリシャ文字$\pi$の大文字なので「パイ」と読みます.

先ほども書きましたが,最尤推定法を考えるときには,もともと

  • データ$x_1,x_2,\dots,x_n$
  • 分布の確率密度関数$f$

が用意されていることが大切です.

具体的に正規分布で考えましょう.平均$\mu$,分散$\sigma$の正規分布の確率密度関数$f_{\mu,\sigma}$は

   \begin{align*}f_{\mu,\sigma}(x)=\frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x-\mu)^2}{2\sigma^2}}\end{align*}

と表されるのでしたから,この関数$f_{\mu,\sigma}$に$n$個のデータ$x_1,x_2,\dots,x_n$を代入して掛け合わせた

   \begin{align*}L(\mu,\sigma) =&\frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x_1-\mu)^2}{2\sigma^2}}\times\dots\times\frac{1}{\sqrt{2\pi\sigma^2}}e^{-\frac{(x_n-\mu)^2}{2\sigma^2}} \\=&\bra{\frac{1}{\sqrt{2\pi\sigma^2}}}^{n}e^{-\frac{(x_1-\mu)^2}{2\sigma^2}}e^{-\frac{(x_2-\mu)^2}{2\sigma^2}}\dots e^{-\frac{(x_n-\mu)^2}{2\sigma^2}} \\=&(2\pi\sigma^2)^{-\frac{n}{2}}e^{-\frac{1}{2\sigma^2}\brb{(x_1-\mu)^2+\dots+(x_n-\mu)^2}}\end{align*}

尤度関数と言うわけですね.

先ほど説明したように正規分布の「位置」と「形」はそれぞれ平均$\mu$と分散$\sigma$によって決まります.

よって,正規分布の最尤推定法では尤度関数$L(\mu,\sigma)$を最大にする$\mu$と$\sigma$を求めることにより,最も尤もらしい正規分布を推定するということになります.

対数尤度関数

さて,それでは実際にどうすれば尤度関数$L(\mu,\sigma)$が最大となるような$\mu$と$\sigma$を求めることができるのでしょうか?

関数の最大,最小を求める問題では微分を用いるのがよくある方法ですが,尤度関数$L(\mu,\sigma)$は積の形で表されているので微分すると式がやや煩雑になります.

そこで,尤度関数$L$に自然対数をとった対数尤度関数を用いるとスッキリして便利です.

尤度関数$L$に自然対数をとってできた関数

   \begin{align*}\log{L}=\sum_{k=1}^{n}\log{f(x_k)}\end{align*}

対数尤度関数 (log-likelihood function)という.

対数の性質$\log{ab}=\log{a}+\log{b}$から,積に$\log$をとると和に変わるのでしたから,尤度関数

   \begin{align*}L=f(x_1)\times f(x_2)\times\dots\times f(x_n)\end{align*}

の両辺で自然対数$\log$をとれば

   \begin{align*}\log{L}=\log{f(x_1)}+\log{f(x_2)}+\dots+\log{f(x_n)}\end{align*}

となるわけですね.これを$\sum$を用いて表したものが上の定義式ですね.

$\log$は単調増加関数なので,尤度関数$L$が最大になるとき対数尤度関数$\log{L}$も最大になります.

よって,平均$\mu$,分散$\sigma$の正規分布の尤度関数$L(\mu,\sigma)$を最大にするような$\mu$と$\sigma$を求めたければ,対数尤度関数$\log{L}(\mu,\sigma)$を最大にするような$\mu$と$\sigma$を求めればよいことになります.

積のまま微分すると式は煩雑になりますが,和の微分は各項で微分ができるので式はそれほど煩雑になりません.対数をとって和の形にしたのはこの理由からです.

平均$\mu$,分散$\sigma$の正規分布の対数尤度関数

   \begin{align*}M(\mu,\sigma) =&\log{L}(\mu,\sigma) \\=&\log{\brc{(2\pi\sigma^2)^{-\frac{n}{2}}e^{-\frac{1}{2\sigma^2}\brb{(x_1-\mu)^2+\dots+(x_n-\mu)^2}}}} \\=&-\frac{n}{2}\log{2\pi}-n\log{\sigma}-\frac{(x_1-\mu)^2+\dots+(x_n-\mu)^2}{2\sigma^2}\end{align*}

となりますね.

微分して極値を求める

上述したように,微分を用いることで対数尤度関数を$M(\mu,\sigma):=\log{L}(\mu,\sigma)$とおき,$M$の最大値を求めましょう.

一般に微分可能な2変数関数$f$に対して,$\pd{f}{x}(a,b)=\pd{f}{y}(a,b)=0$を満たす$(a,b)$が$f(x,y)$を最大(最小)にする$(x,y)$の候補です.

実際,正規分布の対数尤度関数の場合には

   \begin{align*}\pd{M}{\mu}(\mu,\sigma)=\pd{M}{\sigma}(\mu,\sigma)=0\end{align*}

を満たすような$(\mu,\sigma)$で$M(\mu,\sigma)$は最大となります.

   \begin{align*} & \pd{M}{\mu}(\mu,\sigma)=0 \\\iff& -\frac{2(\mu-x_1)+\dots+2(\mu-x_n)}{2\sigma^2}=0 \\\iff& (\mu-x_1)+\dots+(\mu-x_n)=0 \\\iff& \mu=\frac{x_1+\dots+x_n}{n}, \\& \pd{M}{\sigma}(\mu,\sigma)=0 \\\iff& -\frac{n}{\sigma}+\frac{(x_1-\mu)^2+\dots+(x_n-\mu)^2}{\sigma^3}=0 \\\iff& (x_1-\mu)^2+\dots+(x_n-\mu)^2=n\sigma^2 \\\iff& \sigma^2=\frac{(x_1-\mu)^2+\dots+(x_n-\mu)^2}{n} \end{align*}

となるので,

  • $\mu=\dfrac{x_1+\dots+x_n}{n}$
  • $\sigma^2=\dfrac{(x_1-\mu)^2+\dots+(x_n-\mu)^2}{n}$

のとき$M(\mu,\sigma)$が最大,すなわち,$L(\mu,\sigma)$が最大となります.

結論

さて,ただ「正規分布に従う$n$個のデータを用意し,その尤度関数が最大になるような組$(\mu,\sigma)$を求めよう」と求めたわけですが,今求まった$\mu$と$\sigma^2$に見覚えはありませんか?

  • $\mu=\dfrac{x_1+\dots+x_n}{n}$はデータ$x_1,\dots,x_n$の平均
  • $\sigma^2=\dfrac{(x_1-\mu)^2+\dots+(x_n-\mu)^2}{n}$はデータ$x_1,\dots,x_n$の分散

になっていますね!

確かに最尤推定法からそれっぽい結果が導かれました!

この記事では正規分布の最尤推定法を考えましたが,正規分布でない場合にも「分布の関数にデータの値を代入してそれらの積が最大になる分布が,最もそれっぽい分布だ」という最尤推定法のイメージがあれば,同じ考え方で最尤推定法を使うことができます.

管理人

プロフィール

山本やまもと 拓人たくと

元予備校講師.講師として駆け出しの頃から予備校の生徒アンケートで抜群の成績を残し,通常の8倍の報酬アップを提示されるなど頭角を表す.

飛び級・首席合格で大学院に入学しそのまま首席修了するなど数学の深い知識をもち,本質をふまえた分かりやすい授業に定評がある.

現在はオンライン家庭教師,社会人向け数学教室での講師としての教育活動とともに,京都大学で数学の研究も行っている.専門は非線形偏微分方程式論.大学数学系YouTuberとしても活動中.

趣味は数学,ピアノ,甘いもの食べ歩き.公式LINEを友達登録で【限定プレゼント】配布中.

Twitter・大学数学YouTube・公式LINEを見てみる
あーるえぬ

コメント

タイトルとURLをコピーしました