からっぽのしょこ

読んだら書く!書いたら読む!同じ事は二度調べ(たく)ない

カテゴリ分布

カテゴリ分布に関する記事です。他の確率分布に関する記事も含めて概ね「確率分布に関する記事一覧」にまとめています。

【R】3.1:混合ユニグラムモデルの生成モデルの実装【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、混合ユニグラムモデル(カテゴリモデル)の生成モデルをR言語で…

【R】2.2:ユニグラムモデルの生成モデルの実装【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、ユニグラムモデル(カテゴリモデル)の生成モデルをR言語でスク…

【R】2.4:ユニグラムモデルのMAP推定の実装:パラメータ推定【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、ユニグラムモデルにおけるMAP推定(パラメータ推定)をR言語で…

【R】2.3:ユニグラムモデルの最尤推定の実装【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、カテゴリモデルに対する最尤推定をR言語でスクラッチ実装しま…

【R】2.7:ユニグラムモデルのMAP推定の実装:ハイパーパラメータ推定【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、ユニグラムモデルにおけるMAP推定(ハイパーパラメータ推定)を…

2.7:ユニグラムモデルのMAP推定の導出:ハイパーパラメータ推定【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、カテゴリモデルに対するMAP推定(ハイパーパラメータ推定)の数…

2.7:ユニグラムモデルの経験ベイズ推定の導出:多様なハイパーパラメータの場合【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、カテゴリモデルに対する経験ベイズ推定(ハイパーパラメータ推…

【R】ディリクレ分布から確率分布の生成

はじめに 機械学習で登場する確率分布について色々な角度から理解したいシリーズです。 この記事では、R言語でディリクレ分布からカテゴリ分布と多項分布を生成します。 【前の内容】 www.anarchive-beta.com 【他の記事一覧】 www.anarchive-beta.com 【こ…

カテゴリ分布の定義式

はじめに 機械学習で登場する確率分布について色々な角度から理解したいシリーズです。 カテゴリ分布(カテゴリカル分布)の定義を確認します。 【前の内容】 www.anarchive-beta.com 【他の記事一覧】 www.anarchive-beta.com 【この記事の内容】 はじめに カ…

【Python】カテゴリ分布の作図

はじめに 機械学習で登場する確率分布について色々な角度から理解したいシリーズです。 カテゴリ分布の計算とグラフの作成をPythonで行います。 【前の内容】 www.anarchive-beta.com 【他の記事一覧】 www.anarchive-beta.com 【目次】 はじめに カテゴリ分…

【R】カテゴリ分布の作図

はじめに 機械学習で登場する確率分布について色々な角度から理解したいシリーズです。 カテゴリ分布の計算とグラフの作成をR言語で行います。 【前の内容】 www.anarchive-beta.com 【他の記事一覧】 www.anarchive-beta.com 【目次】 はじめに カテゴリ分…

【Python】3.2.2:カテゴリ分布の学習と予測【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』の学習時のノートです。基本的な内容は「数式の行間を読んでみた」とそれを「RとPythonで組んでみた」になります。「数式」と「プログラム」から理解するのが目標です。 この記事は、3.2.2項の内容です。尤度関数…

【R】3.2.2:カテゴリ分布の学習と予測の実装【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』の学習時のノートです。「数式の行間を読んでみた」とそれを「RとPythonで組んでみた」によって、「数式」と「プログラム」から理解するのが目標です。 省略してある内容等ありますので、本とあわせて読んでくださ…

3.1:混合ユニグラムモデルの生成モデルの導出【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、混合カテゴリモデルで登場する数式の行間を埋めます。 【前節…

2.2:ユニグラムモデルの生成モデルの導出【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、ユニグラムモデルで登場する数式の行間を埋めます。 【前節の…

カテゴリ分布の平均と分散の導出

はじめに 機械学習で登場する確率分布について色々な角度から理解したいシリーズです。 カテゴリ分布(カテゴリカル分布)の統計量を導出します。 【前の内容】 www.anarchive-beta.com 【他の記事一覧】 www.anarchive-beta.com 【この記事の内容】 はじめに …

3.2.2:カテゴリ分布の学習と予測の導出【緑ベイズ入門のノート】

はじめに 『ベイズ推論による機械学習入門』の学習時のノートです。「数式の行間を読んでみた」とそれを「RとPythonで組んでみた」によって、「数式」と「プログラム」から理解するのが目標です。 省略してある内容等ありますので、本とあわせて読んでくださ…

2.4:ユニグラムモデルのMAP推定の導出:パラメータ推定【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、カテゴリモデルに対するMAP推定の数式の行間を埋めます。 【…

4.1:トピックモデルの生成モデルの導出【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、トピックモデルで登場する数式の行間を埋めます。 【前節の内…

3.3:混合ユニグラムモデルの最尤推定(EMアルゴリズム)の導出【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、混合カテゴリモデルにおけるEMアルゴリズムを用いた最尤推定…

2.7:ユニグラムモデルの経験ベイズ推定の導出:一様なハイパーパラメータの場合【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、カテゴリモデルに対する経験ベイズ推定(ハイパーパラメータ推…

2.5-6:ユニグラムモデルのベイズ推定とベイズ予測分布【『トピックモデル』の勉強ノート】

はじめに 機械学習プロフェッショナルシリーズの『トピックモデル』の勉強時に自分の理解の助けになったことや勉強会資料のまとめです。トピックモデルの各種アルゴリズムを「数式」と「プログラム」から理解することを目指します。 この記事は、2.5節「ベイ…

2.3:ユニグラムモデルの最尤推定の導出【青トピックモデルのノート】

はじめに 『トピックモデル』(MLPシリーズ)の勉強会資料のまとめです。各種モデルやアルゴリズムを「数式」と「プログラム」を用いて解説します。 本の補助として読んでください。 この記事では、カテゴリモデルに対する最尤推定の数式の行間を埋めます。 【…