はじめに
『ベイズ推論による機械学習入門』の学習時のノートです。基本的な内容は「数式の行間を読んでみた」とそれを「RとPythonで組んでみた」になります。「数式」と「プログラム」から理解するのが目標です。
この記事は、各節の記事へのリンクページです。
省略してある内容等ありますので、本とあわせて読んでください。初学者な自分が理解できるレベルまで落として書き下していますので、分かる人にはかなりくどくなっています。同じような立場の人のお役に立てれば幸いです。
【目次】
Chapter 2 基本的な確率分布
半数くらいはこちらの記事で書きました。
Chapter 3 ベイズ推論による学習と予測
3.2 離散確率分布の学習と予測
3つの離散分布(ベルヌーイ分布・カテゴリ分布・ポアソン分布)を例として、パラメータの事後分布と予測分布を解析的に計算する方法を解説して、RとPythonで実装します。
3.3 1次元ガウス分布の学習と予測
1次元ガウス分布について3つのパターン(平均が未知、精度(分散)が未知、平均と精度が未知)を例として、パラメータの事後分布と予測分布を解析的に計算する方法を解説して、RとPythonで実装します。
この節では、ガウス分布の分散パラメータ$\sigma^2$の代わりに、その逆数である精度パラメータ$\lambda$
を用いる。
3.4 多次元ガウス分布の学習と予測
多次元ガウス分布について3つのパターン(平均が未知、精度が未知、平均と精度が未知)を例として、パラメータの事後分布と未観測データの予測分布を解析的に計算する方法を解説する。
3.5 線形回帰の例
Chapter 4 混合モデルと近似推論
4.3 ポアソン混合モデルにおける推論
4.4 ガウス混合モデルにおける推論
参考文献
- 須山敦志『ベイズ推論による機械学習入門』(機械学習スタートアップシリーズ)杉山将監修,講談社,2017年.
おわりに
1年ほど辞書的に使っていた須山ベイズ本の精読を始めました。一連の記事はその学習時の成果物です。
著者様の名前を呼び捨てするのは気が引けるので『緑ベイズ入門』と略すことにします。緑ベイズと呼ばれる本は既にあるようなので入門を付けましたが、本来この本の題は"機械学習"入門な訳で、、、つまり『緑(色をした)ベイズ(推論による機械学習)入門』ということでひとつ。(あとで気付きましたが論文等でのノリなのかな)
読み始めた現在、最後まで精読する気でおります。おりますが他の本も読んでおりますゆえ…。心折れないよう頑張ります。
間違い等ありましたら遠慮なく全てご指摘いただけるととても嬉しいです。よろしくお願いします。
勉強が進んで大幅な加筆修正等がありましたら記事の方も更新しますが、ちょっとした変更はGitHubの方で管理しています。
3章前半の記事は、デジモン無印・02・tri.をBGMに生成されました。癒しを与えてくれたコロモンとパタモン、勇気を与えてくれた「Butter-Fly」と「brave heart」には特に心を支えられました。全ての関係者の皆様ありがとうございます！
- 2020.11.14
多次元ガウス分布で登場する行列計算がムリムリで3.4節と3.5節を飛ばしてましたが、ゼロつく1巻をやってたら少しできるようになったので挑戦しました。のべ1か月ちょいかかりましたがなんとか解けました！ついでに1つだけPythonでも実装してみました。
- 2021.02.19
一通り読み終わったのでこれまでに書いた記事を修正していきます。ついでにPythonでも実装してきます。あ、5章は無理でした。