からっぽのしょこ

読んだら書く!書いたら読む!同じ事は二度調べ(たく)ない

パラメータ推定

各種手法によるパラメータ推定に関する記事です。手法ごとにカテゴリ分けしているので、各手法のカテゴリをご覧ください。

【Python】3.4.2:正規分布の母平均の信頼区間の実装:母分散が未知の場合【統計検定2級のノート】

はじめに 「統計検定2級」の独学時のまとめノートです。各種の統計手法について「数式・プログラム・図」を用いて解説します。 『統計学基礎』に沿って学習を進めます。本の補助として読んでください。 この記事では、正規分布の母平均の信頼区間をPythonで…

【Python】3.4.1:正規分布の母平均の信頼区間の実装:母分散が既知の場合【統計検定2級のノート】

はじめに 「統計検定2級」の独学時のまとめノートです。各種の統計手法について「数式・プログラム・図」を用いて解説します。 『統計学基礎』に沿って学習を進めます。本の補助として読んでください。 この記事では、正規分布の母平均の信頼区間をPythonで…

3.4.0:多次元ガウスモデルの生成モデルの導出【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』(MLSシリーズ)の独学時のノートです。各種のモデルやアルゴリズムについて「数式・プログラム・図」を用いて解説します。 本の補助として読んでください。 この記事では、多次元ガウス分布に対するベイズ推論で登…

3.2.2:カテゴリモデルの生成モデルの導出【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』(MLSシリーズ)の独学時のノートです。各種のモデルやアルゴリズムについて「数式・プログラム・図」を用いて解説します。 本の補助として読んでください。 この記事では、カテゴリ分布に対するベイズ推論で登場す…

3.2.3:ポアソンモデルの生成モデルの導出【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』(MLSシリーズ)の独学時のノートです。各種のモデルやアルゴリズムについて「数式・プログラム・図」を用いて解説します。 本の補助として読んでください。 この記事では、ポアソン分布に対するベイズ推論で登場す…

3.3.0:1次元ガウスモデルの生成モデルの導出【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』(MLSシリーズ)の独学時のノートです。各種のモデルやアルゴリズムについて「数式・プログラム・図」を用いて解説します。 本の補助として読んでください。 この記事では、1次元ガウス分布に対するベイズ推論で登場…

3.2.1:ベルヌーイモデルの生成モデルの導出【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』(MLSシリーズ)の独学時のノートです。各種のモデルやアルゴリズムについて「数式・プログラム・図」を用いて解説します。 本の補助として読んでください。 この記事では、ベルヌーイ分布に対するベイズ推論で登場…

【R】2.4:ユニグラムモデルのMAP推定の実装:パラメータ推定【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、ユニグラムモデルにおけるMAP推定(パラメータ推定)をR言語で…

【R】2.3:ユニグラムモデルの最尤推定の実装【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、カテゴリモデルに対する最尤推定をR言語でスクラッチ実装しま…

【R】2.7:ユニグラムモデルのMAP推定の実装:ハイパーパラメータ推定【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、ユニグラムモデルにおけるMAP推定(ハイパーパラメータ推定)を…

2.7:ユニグラムモデルのMAP推定の導出:ハイパーパラメータ推定【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、カテゴリモデルに対するMAP推定(ハイパーパラメータ推定)の数…

2.7:ユニグラムモデルの経験ベイズ推定の導出:多様なハイパーパラメータの場合【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、カテゴリモデルに対する経験ベイズ推定(ハイパーパラメータ推…

【R】3.4:混合ユニグラムモデルの変分ベイズ推定の実装:ループなし版【『トピックモデル』の勉強ノート】

はじめに 機械学習プロフェッショナルシリーズの『トピックモデル』の勉強時に自分の理解の助けになったことや勉強会資料のまとめです。トピックモデルの各種アルゴリズムを「数式」と「プログラム」から理解することを目指します。 この記事は、3.4節「変分…

【R】3.3:混合ユニグラムモデルの最尤推定(EMアルゴリズム)の実装:ループなし版【『トピックモデル』の勉強ノート】

はじめに 機械学習プロフェッショナルシリーズの『トピックモデル』の勉強時に自分の理解の助けになったことや勉強会資料のまとめです。トピックモデルの各種アルゴリズムを「数式」と「プログラム」から理解することを目指します。 この記事は、3.3節「EMア…

【Python】10.1.3:一変数ガウス分布の変分推論の実装【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでの実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、10.1.3項の内容です。平均と精…

【R】10.1.3:一変数ガウス分布の変分推論の実装【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでの実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、10.1.3項の内容です。平均と精…

10.1.3:一変数ガウス分布の変分推論の導出【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでの実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、10.1.3項の内容です。平均と精…

9.3.1:混合ガウス分布のEMアルゴリズムの導出:その2【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでの実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、9.3.1項の内容です。多次元混…

【Python】9.2.2:混合ガウス分布のEMアルゴリズムの実装【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでの実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、9.2.2項の内容です。多次元混…

【R】9.2.2:混合ガウス分布のEMアルゴリズムの実装【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでの実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、9.2.2項の内容です。多次元混…

9.2:混合ガウス分布のEMアルゴリズムの導出:その1【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでの実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、9.2節の内容です。多次元混合…

【Python】4.4.4:ガウス混合モデルにおける推論:崩壊型ギブスサンプリング【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』の学習時のノートです。基本的な内容は「数式の行間を読んでみた」とそれを「RとPythonで組んでみた」になります。「数式」と「プログラム」から理解するのが目標です。 この記事は、4.4.4項の内容です。「観測モ…

【R】4.4.4:ガウス混合モデルにおける推論:崩壊型ギブスサンプリング【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』の学習時のノートです。基本的な内容は「数式の行間を読んでみた」とそれを「RとPythonで組んでみた」になります。「数式」と「プログラム」から理解するのが目標です。 この記事は、4.4.4項の内容です。「観測モ…

【Python】3.4.3:多次元ガウス分布の学習と予測:平均・精度が未知の場合【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』の学習時のノートです。基本的な内容は「数式の行間を読んでみた」とそれを「RとPythonで組んでみた」になります。「数式」と「プログラム」から理解するのが目標です。 この記事は、3.4.3項の内容です。「尤度関…

【R】3.4.3:多次元ガウス分布の学習と予測の実装:平均・精度が未知の場合【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』の学習時のノートです。「数式の行間を読んでみた」とそれを「RとPythonで組んでみた」によって、「数式」と「プログラム」から理解するのが目標です。 省略してある内容等ありますので、本とあわせて読んでくださ…

【Python】3.4.2:多次元ガウス分布の学習と予測:精度が未知の場合【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』の学習時のノートです。基本的な内容は「数式の行間を読んでみた」とそれを「RとPythonで組んでみた」になります。「数式」と「プログラム」から理解するのが目標です。 この記事は、3.4.2項の内容です。「尤度関…

【R】3.4.2:多次元ガウス分布の学習と予測の実装:精度が未知の場合【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』の学習時のノートです。「数式の行間を読んでみた」とそれを「RとPythonで組んでみた」によって、「数式」と「プログラム」から理解するのが目標です。 省略してある内容等ありますので、本とあわせて読んでくださ…

【Python】3.4.1:多次元ガウス分布のベイズ推論の実装:平均が未知の場合【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』(MLSシリーズ)の独学時のノートです。各種のモデルやアルゴリズムについて「数式・プログラム・図」を用いて解説します。 本の補助として読んでください。 この記事では、平均が未知の多次元ガウス分布に対するベ…

【R】3.4.1:多次元ガウス分布のベイズ推論の実装:平均が未知の場合【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』(MLSシリーズ)の独学時のノートです。各種のモデルやアルゴリズムについて「数式・プログラム・図」を用いて解説します。 本の補助として読んでください。 この記事では、平均が未知の多次元ガウス分布に対するベ…

【Python】3.3.3:1次元ガウス分布のベイズ推論の実装:平均・精度が未知の場合【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』(MLSシリーズ)の独学時のノートです。各種のモデルやアルゴリズムについて「数式・プログラム・図」を用いて解説します。 本の補助として読んでください。 この記事では、平均と精度が未知の1次元ガウス分布に対す…