はじめに
機械学習で登場する確率分布について色々な角度から理解したいシリーズです。
二項分布の特性関数を導出します。
【前の内容】
【他の記事一覧】
【この記事の内容】
二項分布の特性関数の導出
二項分布(Binomial Distribution)の特性関数を導出します。二項分布については「二項分布の定義式の確認 - からっぽのしょこ」を参照してください。
特性関数は、$e^{itx}$の期待値として定義されます。$e$はネイピア数、$i$は虚数単位です。
$$
\begin{aligned}
\varphi(t)
&= \mathbb{E}[e^{itx}]
\\
&= \sum_{x=0}^M
e^{itx}
\mathrm{Bin}(x | M, \phi)
\\
&= \sum_{x=0}^M
e^{itx}
{}_MC_x \phi^x (1 - \phi)^{M-x}
\end{aligned}
$$
ここで、$\mathrm{Bin}(x | M, \phi)$は二項分布を表し、$x$は成功回数、$M$は試行回数、$\phi$は成功確率です。
$e^{itx} = (e^{it})^x$と$\phi^x$をまとめます。
$$
\varphi(t)
= \sum_{x=0}^M
{}_MC_x (\phi e^{it})^x (1 - \phi)^{M-x}
$$
二項定理$(a + b)^n = \sum_{r=0}^n {}_nC_r a^r b^{n-r}$の形をしているので、右辺から左辺の式に変形します。
$$
\varphi(t)
= (\phi e^{it} + 1 - \phi)^M
$$
特性関数が得られました。モーメント母関数の$t$を$it$に置き換えた式と一致します。
参考書籍
- 星野満博・西崎雅仁『数理統計の探求』晃洋書房,2012年.
おわりに
特性関数が何なのかまだよく分かってないんだけど。
【次の内容】
