からっぽのしょこ

読んだら書く!書いたら読む!同じ事は二度調べ(たく)ない

2023-06-18から1日間の記事一覧

平均情報量の最大値(最大エントロピー)の導出

はじめに 機械学習でも登場する情報理論におけるエントロピーを1つずつ確認していくシリーズです。 この記事では、平均情報量の最大値を扱います。 【前の内容】 www.anarchive-beta.com 【今回の内容】 はじめに 平均情報量の最大値(最大エントロピー)の導…

平均情報量(エントロピー)の定義

はじめに 機械学習でも登場する情報理論におけるエントロピーを1つずつ確認していくシリーズです。 この記事では、エントロピーを扱います。 【前の内容】 www.anarchive-beta.com 【今回の内容】 はじめに 平均情報量(エントロピー)の定義 定義 可視化 2次…