からっぽのしょこ

読んだら書く!書いたら読む!同じ事は二度調べ(たく)ない

機械学習(未分類)

【Python】3.1.0:基底関数の作図【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでのスクラッチ実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、3.1節「線形基底関…

【Python】4.4.0:ラプラス近似の実装:2次元の場合【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでのスクラッチ実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、4.4節の内容です。2…

【Python】4.4.0:ラプラス近似の実装:1次元の場合【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでのスクラッチ実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、4.4節の内容です。1…

【Python】3.1.4.0:Lpノルムの作図【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでのスクラッチ実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、3.1.4項「正則化最…

4.4.0:ラプラス近似の導出【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでのスクラッチ実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、4.4節の内容です。…

【R】3.1.4.0:Lpノルムの作図【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでのスクラッチ実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、3.1.4項「正則化最…

【R】3.1.0:基底関数の作図【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでのスクラッチ実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、3.1節「線形基底関…

ステップ47:多値分類の出力層の計算【ゼロつく3のノート(数学)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で登場する数学的な内容をもう少し深堀りして解説していきます。 この記事は、主にス…

ステップ46:SGD以外の最適化手法【ゼロつく3のノート(メモ)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本だけで十分だけど背景などが気になるところをもう少し深堀りして解説していきます。 …

ステップ42:線形回帰の実装【ゼロつく3のノート(実装)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で省略されているクラスや関数の内部の処理を1つずつ解説していきます。 この記事は…

ステップ42:平均2乗誤差の逆伝播の導出【ゼロつく3のノート(数学)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で登場する数学的な内容をもう少し深堀りして解説していきます。 この記事は、主に42…

ステップ29:勾配降下法とニュートン法の比較【ゼロつく3のノート(数学)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で登場する数学的な内容をもう少し深堀りして解説していきます。 この記事は、主にス…

『パターン認識と機械学習』の攻略ノート:記事一覧

はじめに 『パターン認識と機械学習』の独学時のまとめです。「数式の行間埋め」と「R・Pythonでのスクラッチ実装」からアルゴリズムの理解を目指します。アルゴリズムの説明自体は省略するので、本とあわせて読んでください。 この記事は、各節の解説記事へ…

3.6.4:ニュートン・ラフソン法【白トピックモデルのノート】

はじめに 『トピックモデルによる統計的潜在意味解析』の学習時のメモです。基本的な内容は、数式の行間を読んで埋めたものになります。本と併せて読んでください。 この記事では、3.6.4項のLDAのハイパーパラメータをニュートン・ラフソン法を用いて推定す…

3.4.2:自然勾配法【白トピックモデルのノート】

はじめに 『トピックモデルによる統計的潜在意味解析』の学習時のメモです。基本的な内容は、数式の行間を読んで埋めたものになります。本と併せて読んでください。 この記事では、3.4.2節の自然勾配法やフィッシャー情報行列によるKL情報量の近似について書…

3.4.1:確率的最適化と逐次学習【白トピックモデルのノート】

はじめに 『トピックモデルによる統計的潜在意味解析』の学習時のメモです。基本的な内容は、数式の行間を読んで埋めたものになります。本と併せて読んでください。 この記事では、3.4.1節の確率的勾配降下法について書いています。 数学よく解らない自分が…

4.1-2:トピックモデル【『トピックモデル』の勉強ノート】

はじめに 機械学習プロフェッショナルシリーズの『トピックモデル』の勉強時に自分の理解の助けになったことや勉強会資料のまとめです。トピックモデルの各種アルゴリズムを「数式」と「プログラム」から理解することを目指します。 この記事は、4.1節「トピ…

1.1.11:ラグランジュの未定乗数法【『トピックモデル』の勉強ノート】

はじめに 機械学習プロフェッショナルシリーズの『トピックモデル』の勉強時に自分の理解の助けになったことや勉強会資料のまとめです。トピックモデルの各種アルゴリズムを「数式」と「プログラム」から理解することを目指します。 この記事は、1.1.10項「…

1.1.8-10:カルバック・ライブラー・ダイバージェンスとイェンゼンの不等式【『トピックモデル』の勉強ノート】

はじめに 機械学習プロフェッショナルシリーズの『トピックモデル』の勉強時に自分の理解の助けになったことや勉強会資料のまとめです。トピックモデルの各種アルゴリズムを「数式」と「プログラム」から理解することを目指します。 この記事は、1.1.8項「カ…