からっぽのしょこ

読んだら書く!書いたら読む!同じ事は二度調べ(たく)ない

二項分布のモーメント母関数の導出

はじめに

 機械学習で登場する確率分布について色々な角度から理解したいシリーズです。

 二項分布のモーメント母関数を導出します。

【前の内容】

www.anarchive-beta.com

【他の記事一覧】

www.anarchive-beta.com

【この記事の内容】

二項分布のモーメント母関数の導出

 二項分布(Binomial Distribution)のモーメント母関数(積率母関数)を導出します。二項分布については「二項分布の定義式の確認 - からっぽのしょこ」、モーメン母関数については「モーメント母関数 - からっぽのしょこ」を参照してください。

 モーメント母関数は、$e^{tx}$の期待値として定義されます。$e$はネイピア数です。

$$ \begin{aligned} M(t) &= \mathbb{E}[e^{tx}] \\ &= \sum_{x=0}^M e^{tx} \mathrm{Bin}(x | M, \phi) \\ &= \sum_{x=0}^M e^{tx} {}_MC_x \phi^x (1 - \phi)^{M-x} \end{aligned} $$

 ここで、$\mathrm{Bin}(x | M, \phi)$は二項分布を表し、$x$は成功回数、$M$は試行回数、$\phi$は成功確率です。
 $e^{tx} = (e^t)^x$と$\phi^x$をまとめます。

$$ M(t) = \sum_{x=0}^M {}_MC_x (\phi e^t)^x (1 - \phi)^{M-x} $$

 二項定理$(a + b)^n = \sum_{r=0}^n {}_nC_r a^r b^{n-r}$の形をしているので、右辺から左辺の式に変形します。

$$ M(t) = (\phi e^t + 1 - \phi)^M $$

 モーメント母関数が得られました。

参考書籍

  • 星野満博・西崎雅仁『数理統計の探求』晃洋書房,2012年.

おわりに

 モーメント母関数が何なのかまだよく分かってないんだけど。

【次の内容】

www.anarchive-beta.com

www.anarchive-beta.com