からっぽのしょこ

読んだら書く!書いたら読む!同じ事は二度調べ(たく)ない

斜線入りのヒートマップの作成

はじめに ヒートマップの任意の場所に斜線を描画します。Matplotlibライブラリを利用したヒートマップの作図については「https://www.anarchive-beta.com/entry/2021/10/01/100107」を参照してください。 斜線入りのヒートマップの作成 matplotlibライブラリ…

pcolorによるヒートマップの作成

はじめに Matplotlibライブラリを利用してヒートマップを作図します。 pcolorによるヒートマップの作成 matplotlibライブラリのAxes.pcolor()を用いて、ヒートマップを作図します。 利用するライブラリを読み込みます。 # 利用するモジュール import matplot…

Affineレイヤの逆伝播の可視化【ゼロつく1のノート(数学)】

はじめに 「機械学習・深層学習」初学者のための『ゼロから作るDeep Learning』の攻略ノートです。『ゼロつくシリーズ』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 ニューラルネットワーク内部の計算について、数学的背景の…

Affineレイヤの順伝播の可視化【ゼロつく1のノート(数学)】

はじめに 「機械学習・深層学習」初学者のための『ゼロから作るDeep Learning』の攻略ノートです。『ゼロつくシリーズ』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 ニューラルネットワーク内部の計算について、数学的背景の…

5.5.2:Sigmoidレイヤの実装【ゼロつく1のノート(実装)】

はじめに 「プログラミング」初学者のための『ゼロから作るDeep Learning』攻略ノートです。『ゼロつくシリーズ』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 関数やクラスとして実装される処理の塊を細かく分解して、1つず…

交差エントロピー誤差の逆伝播の導出【ゼロつく1のノート(数学)】

はじめに 「機械学習・深層学習」初学者のための『ゼロから作るDeep Learning』の攻略ノートです。『ゼロつくシリーズ』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 ニューラルネットワーク内部の計算について、数学的背景の…

Softmax関数の微分

はじめに 「ソフトマックス関数の逆伝播の導出【ゼロつく1のノート(数学)】 - からっぽのしょこ」の補足用の記事です。内容は重複しており、またこの記事で完結しています。おそらくこの記事の方が分かりやすいです。 Softmax関数の微分 Softmax関数(ソフト…

ソフトマックス関数の逆伝播の導出【ゼロつく1のノート(数学)】

はじめに 「機械学習・深層学習」初学者のための『ゼロから作るDeep Learning』の攻略ノートです。『ゼロつくシリーズ』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 ニューラルネットワーク内部の計算について、数学的背景の…

【R】3.1.0:基底関数【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでの実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、3.1節の内容です。R言語で基底…

4.4.1:勾配法【ゼロつく1のノート(数学)】

はじめに 「機械学習・深層学習」初学者のための『ゼロから作るDeep Learning』の攻略ノートです。『ゼロつくシリーズ』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 ニューラルネットワーク内部の計算について、数学的背景の…

4.3.3:偏微分【ゼロつく1のノート(数学)】

はじめに 「機械学習・深層学習」初学者のための『ゼロから作るDeep Learning』の攻略ノートです。『ゼロつくシリーズ』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 ニューラルネットワーク内部の計算について、数学的背景の…

矢印プロットの作図【ゼロつく1のノート(Python)】

はじめに 「Python」初学者のための『ゼロから作るDeep Learning』攻略ノートです。『ゼロつく1』の学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 本を進めるにあたって必要となるPython文法や利用する関数について、その機能…

3.2.7:ReLU関数の実装【ゼロつく1のノート(実装)】

はじめに 「プログラミング」初学者のための『ゼロから作るDeep Learning』攻略ノートです。『ゼロつくシリーズ』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 関数やクラスとして実装される処理の塊を細かく分解して、1つず…

3.2.4:シグモイド関数の実装【ゼロつく1のノート(実装)】

はじめに 「プログラミング」初学者のための『ゼロから作るDeep Learning』攻略ノートです。『ゼロつくシリーズ』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 関数やクラスとして実装される処理の塊を細かく分解して、1つず…

3.2.2:ステップ関数の実装【ゼロつく1のノート(実装)】

はじめに 「プログラミング」初学者のための『ゼロから作るDeep Learning』攻略ノートです。『ゼロつくシリーズ』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 関数やクラスとして実装される処理の塊を細かく分解して、1つず…

3Dプロットの作図【ゼロつく1のノート(Python)】

はじめに 「Python」初学者のための『ゼロから作るDeep Learning』攻略ノートです。『ゼロつくシリーズ』学習の補助となるように適宜解説を加えています。本と一緒に読んでください。 本を進めるにあたって必要となるPython文法や利用する関数について、その…

ステップ60:LSTMによるサイン波の学習【ゼロつく3のノート(実装)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で省略されているクラスや関数の内部の処理を1つずつ解説していきます。 この記事は…

ステップ59:RNNによるサイン波の学習【ゼロつく3のノート(実装)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で省略されているクラスや関数の内部の処理を1つずつ解説していきます。 この記事は…

ステップ58:CNNによるMNISTの学習【ゼロつく3のノート(実装)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で省略されているクラスや関数の内部の処理を1つずつ解説していきます。 この記事は…

【Python】9.3.3:混合ベルヌーイ分布のEMアルゴリズム【PRMLのノート】

はじめに 『パターン認識と機械学習』の独学時のまとめです。一連の記事は「数式の行間埋め」または「R・Pythonでの実装」からアルゴリズムの理解を補助することを目的としています。本とあわせて読んでください。 この記事は、9.3.3項の内容です。混合ベル…

ステップ51:MNISTデータセットの学習【ゼロつく3のノート(実装)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で省略されているクラスや関数の内部の処理を1つずつ解説していきます。 この記事は…

ステップ48:スパイラル・データセットの学習【ゼロつく3のノート(実装)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で省略されているクラスや関数の内部の処理を1つずつ解説していきます。 この記事は…

ステップ47:多値分類の出力層の計算【ゼロつく3のノート(数学)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で登場する数学的な内容をもう少し深堀りして解説していきます。 この記事は、主にス…

ステップ46:SGD以外の最適化手法【ゼロつく3のノート(メモ)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本だけで十分だけど背景などが気になるところをもう少し深堀りして解説していきます。 …

ステップ43:簡単なニューラルネットワークの実装【ゼロつく3のノート(実装)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で省略されているクラスや関数の内部の処理を1つずつ解説していきます。 この記事は…

ステップ42:線形回帰の実装【ゼロつく3のノート(実装)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で省略されているクラスや関数の内部の処理を1つずつ解説していきます。 この記事は…

ステップ42:平均2乗誤差の逆伝播の導出【ゼロつく3のノート(数学)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で登場する数学的な内容をもう少し深堀りして解説していきます。 この記事は、主に42…

ステップ42:線形変換の逆伝播の導出【ゼロつく3のノート(数学)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で登場する数学的な内容をもう少し深堀りして解説していきます。 この記事は、主に42…

ステップ39:総和の逆伝播に利用する関数の実装【ゼロつく3のノート(実装)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で省略されているクラスや関数の内部の処理を1つずつ解説していきます。 この記事は…

ステップ40:ブロードキャストの逆伝播に利用する関数の実装【ゼロつく3のノート(実装)】

はじめに 『ゼロから作るDeep Learning 3』の初学者向け攻略ノートです。『ゼロつく3』の学習の補助となるように適宜解説を加えていきます。本と一緒に読んでください。 本で省略されているクラスや関数の内部の処理を1つずつ解説していきます。 この記事は…