からっぽのしょこ

読んだら書く!書いたら読む!同じ事は二度調べ(たく)ない

ポアソン分布の平均と分散の導出:モーメント母関数を利用

はじめに

 機械学習で登場する確率分布について色々な角度から理解したいシリーズです。

 ポアソン分布の統計量をモーメント母関数から導出します。

【前の内容】

www.anarchive-beta.com

【他の記事一覧】

www.anarchive-beta.com

【この記事の内容】

ポアソン分布の統計量の導出

 モーメント母関数(積率母関数)を利用して、ポアソン分布(Poisson Distribution)の平均(期待値)と分散を導出します。モーメン母関数については「モーメント母関数 - からっぽのしょこ」、ポアソン分布については「ポアソン分布の定義式の確認 - からっぽのしょこ」を参照してください。

 ポアソン分布のモーメント母関数は、次の式になります。詳しくは「ポアソン分布のモーメント母関数の導出 - からっぽのしょこ」を参照してください。

$$ M(t) = e^{\lambda (e^t-1)} = \exp \Bigl( \lambda (\exp(t) - 1) \Bigr) $$

 ここで、$\lambda$はポアソン分布のパラメータで発生回数の期待値、$e$はネイピア数です。指数分布が分かりやすいように、$e^x = \exp(x)$でも表します。

 ポアソン分布の平均と分散は、どちらもパラメータ$\lambda$になります。

$$ \begin{aligned} \mathbb{E}[x] &= \lambda \\ \mathbb{V}[x] &= \lambda \end{aligned} $$

 モーメント母関数の微分を用いて、平均と分散の計算式を導出します。

モーメント母関数の1階微分の計算

 モーメント母関数を$t$に関して微分します。

$$ \frac{d M(t)}{d t} = \frac{d}{d t} \Bigl\{ e^{\lambda (e^t-1)} \Bigr\} $$

 式全体を$g(f(x))$、指数部分を$f(x)$として、合成関数の微分$\frac{d g(f(x))}{d x} = \frac{d g(x)}{d f(x)} \frac{d f(x)}{d x}$を行います。

$$ \begin{aligned} \frac{d M(t)}{d t} &= e^{\lambda (e^t-1)} \frac{d}{d t} \Bigl\{ \lambda (e^t-1) \Bigr\} \\ &= e^{\lambda (e^t-1)} \left\{ \frac{d \lambda e^t}{d t} - \frac{d \lambda}{d t} \right\} \\ &= e^{\lambda (e^t-1)} \lambda e^t \end{aligned} $$

 指数関数の微分は$\frac{d e^x}{d x} = e^x$です。
 式を整理します。

$$ \frac{d M(t)}{d t} = \lambda e^{\lambda (e^t-1)+t} $$

 1階微分が求まりました。

モーメント母関数の2階微分の計算

 続いて、モーメント母関数を$t$に関して2階微分します。1階微分$\frac{d M(t)}{d t}$を更に微分します。

$$ \begin{aligned} \frac{d^2 M(t)}{d t^2} &= \frac{d}{d t} \frac{d M(t)}{d t} \\ &= \frac{d}{d t} \Bigl\{ \lambda e^{\lambda (e^t-1)+t} \Bigr\} \end{aligned} $$

 指数関数の微分(合成関数の微分)を行います。

$$ \begin{aligned} \frac{d^2 M(t)}{d t^2} &= \lambda e^{\lambda (e^t-1)+t} \frac{d}{d t} \Bigl\{ \lambda (e^t - 1) + t \Bigr\} \\ &= \lambda e^{\lambda (e^t-1)+t} \left\{ \frac{d \lambda e^t}{d t} - \frac{d \lambda}{d t} + \frac{d t}{d t} \right\} \\ &= \lambda e^{\lambda (e^t-1)+t} ( \lambda e^t + 1 ) \end{aligned} $$

 2階微分が求まりました。

平均の計算

 モーメント母関数の微分に$t = 0$を代入すると、平均が得られます。

$$ \begin{aligned} \mathbb{E}[x] &= \frac{d M(0)}{d t} \\ &= \lambda e^{\lambda (e^0-1)+0} \\ &= \lambda e^0 \\ &= \lambda \end{aligned} $$

 0乗は$x^0 = 1$です。

二乗の平均の計算

 同様に、モーメント母関数の2階微分に$t = 0$を代入すると、二乗の平均が得られます。

$$ \begin{aligned} \mathbb{E}[x^2] &= \frac{d^2 M(0)}{d t^2} \\ &= \lambda e^{\lambda (e^0-1)+0} ( \lambda e^0 + 1 ) \\ &= \lambda e^0 (\lambda + 1) \\ &= \lambda^2 + \lambda \end{aligned} $$


分散の計算

 分散は「$x$の2乗の平均」と「$x$の平均の2乗」の差で求められます。

$$ \begin{aligned} \mathbb{V}[x] &= \mathbb{E}[x^2] - (\mathbb{E}[x])^2 \\ &= \lambda^2 + \lambda - \lambda^2 \\ &= \lambda \end{aligned} $$

 分散の計算式が得られました。

参考文献

  • 星野満博・西崎雅仁『数理統計の探求』晃洋書房,2012年.

おわりに

 これくらいのレベルの式変形だともう問題なさそうです。

【次の内容】