はじめに
『ベイズ推論による機械学習入門』の学習時のノートです。基本的な内容は「数式の行間を読んでみた」とそれを「Rで組んでみた」になります。「数式」と「プログラム」から理解するのが目標です。
この記事は各節の記事へのリンクページです。
省略してある内容等ありますので、本と併せて読んでください。初学者な自分が理解できるレベルまで落として書き下していますので、分かる人にはかなりくどくなっています。同じような立場の人のお役に立てれば幸いです。
【目次】
Chapter 1 機械学習とベイズ学習
特になし
Chapter 2 基本的な確率分布
その内別のカテゴリでまとめる予定
半数くらいはこちらの記事で書きました。
Chapter 3 ベイズ推論による学習と予測
3.2 離散確率分布の学習と予測
パラメータの事後分布と予測分布を解析的に計算する方法を解説する。
3.3 1次元ガウス分布の学習と予測
ここでは、ガウス分布のパラメータの1つである分散$\sigma^2$の代わりに、その逆数である精度パラメータ$\lambda = \sigma^{-2}$を用いる。
3.4 多次元ガウス分布の学習と予測
3.5 線形回帰の例
Chapter 4 混合モデルと近似推論
4.3 ポアソン混合モデルにおける推論
4.4 ガウス混合モデルにおける推論
今やってる。
参考文献
- 須山敦志『ベイズ推論による機械学習入門』(機械学習スタートアップシリーズ)杉山将監修,講談社,2017年.
おわりに
1年ほど辞書的に使っていた須山ベイズ本の精読を始めました。一連の記事はその学習時の成果物です。
著者様の名前を呼び捨てするのは気が引けるので『緑ベイズ入門』と略すことにします。緑ベイズと呼ばれる本は既にあるようなので入門を付けましたが、本来この本の題は"機械学習"入門な訳で、、、つまり『緑(色をした)ベイズ(推論による機械学習)入門』ということでひとつ。(あとで気付きましたが論文等でのノリなのかな)
読み始めた現在、最後まで精読する気でおります。おりますが他の本も読んでおりますゆえ…。心折れないよう頑張ります。
3章前半の記事は、デジモン無印・02・tri.をBGMに生成されました。癒しを与えてくれたコロモンとパタモン、勇気を与えてくれた「Butter-Fly」と「brave heart」には特に心を支えられました。全ての関係者の皆様ありがとうございます！
間違い等ありましたら遠慮なく全てご指摘いただけるととても嬉しいです。よろしくお願いします。
勉強が進んで大幅な加筆修正等がありましたら記事の方も更新しますが、ちょっとした変更はGitHubの方で管理しています。
- 2020.11.14
多次元ガウス分布で登場する行列計算がムリムリで3.4節と3.5節を飛ばしてましたが、ゼロつく1巻をやってたら少しできるようになったので挑戦しました。のべ1か月ちょいかかりましたがなんとか解けました！ついでに1つだけPythonでも実装してみました。