はじめに
『Pythonによるはじめての地理空間データサイエンス』の独学時のまとめノートです。「導出編」「実装編」「可視化編」の三部構成でモデルやアルゴリズムの理解を目指します。
本の内容から寄り道・回り道しながら進めます。本を読んだ上で補助的に読んでください。
この記事では、空間ラグモデルの対数尤度関数について、数式を使って解説します。
【前の内容】
【他の内容】
【今回の内容】
0.2.1 空間ラグモデル(SLM)の尤度関数の導出
空間ラグモデル(SLM・Spatial Lag Model・空間自己回帰モデル・SARモデル・Spatial Autoregressive Model)における対数尤度関数(log-likelihood function)を導出します。
SLMについては「【Python】0.1.2:空間ラグモデル(SLM)の定義式【はじめての地理空間DSのノート】 - からっぽのしょこ」を参照してください。
モデルの確認
まずは、SLMの定義(仮定)を数式で確認します。
空間重み行列については「空間重み行列の定義式」、多変量正規分布については「多次元ガウス分布の定義式 - からっぽのしょこ」を参照してください。
定義式
SLMの定義式については「SLMの定義式」を参照してください。
SLMは、次の式で定義されます。
ここで、 は地域
の説明変数(
次元ベクトル)、
は
個の地域の説明変数(
の行列)、
は地域
の被説明変数(スカラ)、
は
個の地域の被説明変数(
次元ベクトル)、
は回帰パラメータ(
次元ベクトル)、
は地域
の誤差項(スカラ)、
は
個の地域の誤差項(
次元ベクトル)、
は地域
に関する重み(
次元ベクトル)、
は 空間重み行列(
の行列)、
は空間パラメータ(スカラ)です。
誤差項 は、平均ベクトル
・分散共分散行列
の多変量正規分布に従うと仮定します。
ここで、 は分散パラメータ(スカラ)です。
計算式
SLMに関する計算式については「SLMの定義式」を参照してください。
空間自己回帰に関する項について、次のようにおきます。
定義式(0.12.a)を誤差項 について整理すると、次の式となります。
以上の定義式を用いて尤度関数を求めます。
スポンサードリンク
尤度関数の導出
次は、SLMの尤度関数を導出します。
尤度関数
SLMの尤度関数を求めます。
SLMのパラメータ をまとめて、パラメータベクトル
とします。
SLMの定義より、誤差項 の確率密度関数(確率分布)は、次の式となります。
途中式の途中式(クリックで展開)
- 1: 式(0.12b)より、
の確率分布の式を立てます。
- 2: 多変量正規分布の確率密度関数(定義式)に置き換えて、
の確立分布のパラメータ
を代入します。
- 3: 指数の性質
、
、分数の指数表記
、ルートの指数表記
、単位行列の性質
、
、行列式の性質
より、式を整理します。
分数の項は、次のように変形できます。
逆行列の項は、次のように変形できます。
誤差項 の確率密度関数に対して変数変換を行って、被説明変数
の確率密度関数を求めます。パラメータ
が与えられた下での出力データ
となる確率(または確率密度)(パラメータの関数)を尤度関数
と呼びます。
途中式の途中式(クリックで展開)
- 1: 確率密度関数
に対する密度の変数変換公式
より、
の確率密度関数の式を立てます。
はヤコビ行列です。
- 2:
の確率密度関数に、式(3)を代入します。
- 2:
の絶対値に、式(5)を代入します。
ここで、 はヤコビ行列です。ヤコビ行列の行列式
をヤコビアンと呼びます。
行列式 と混同しないように、絶対値を
で表記しています。式(2)より、
を
の関数
とみなしています。
行列式と固有値の関係より、次の式が成り立ちます。
途中式の途中式(クリックで展開)
- 1:
に、式(1)を代入します。
- 2: 行列式と固有値の関係
より、行列式を固有値に関する項の総乗に置き換えます。
の固有値・固有ベクトルを
、
の固有値・固有ベクトルを
とすると、固有値・固有ベクトルの性質
、
が成り立ちます。
式(1)に右から を掛けて式を変形します。
この式から、、
であることが分かります。
よって、次の関係が成り立つことが分かります。
この式から、 のとき
、
のとき
となることが分かります。
ここで、空間重み行列 の固有値を
、
個の固有値の最小値を
、最大値を
で表しています。
となる条件を満たす空間パラメータ
を設定することで、
となり、絶対値
を外せます。
誤差項 に関するヤコビ行列を求めます。関数の1階偏微分を並べた行列をヤコビ行列
と呼びます。
途中式の途中式(クリックで展開)
- 1: ヤコビ行列の要素を明示します。
- 2:
の微分に、式(6)を代入します。
誤差項を を被説明変数
に関して微分します。
途中式の途中式(クリックで展開)
- 1: 式(2)からを取り出した
に関する項の偏微分の式を立てます。
に関する微分なので、
以外の項は定数として扱います。
- 2: 和の微分
より、微分の和に分割します。
- 3:
の微分に、式(7)を代入します。
を被説明変数
に関して微分します。
途中式の途中式(クリックで展開)
- 1:
の内積の偏微分の式を立てます。
に関する微分なので、
以外の項は定数として扱います。
- 2: 総和を展開します。
- 3: 和の微分
より、微分の和に分割します。
- 3: 定数倍の微分
より、係数を微分の外に出します。
または、誤差項 を被説明変数
の転置に関して微分します。
途中式の途中式(クリックで展開)
- 1: 式(2)の偏微分の式を立てます。
に関する微分なので、
以外の項は定数として扱います。
- 2: 和の微分
より、微分の和に分割します。
- 3:
の微分に、式(8)を代入します。
被説明変数 を被説明変数
の転置に関して微分します。
途中式の途中式(クリックで展開)
- 1: 縦ベクトルを横ベクトルで微分したときの行列の要素を明示します。
- 2: 各微分を計算します。
対角要素は 、非対角要素は
となり、対角要素のみが残ります。
同様に、被説明変数 の転置を被説明変数
に関して微分します。
途中式の途中式(クリックで展開)
- 1: 横ベクトルを縦ベクトルで微分したときの行列の要素を明示します。
- 2: 各微分を計算します。
対角要素は 、非対角要素は
となり、対角要素のみが残ります。
以上で、尤度関数の式が得られました。
対数尤度関数
続いて、SLMの対数尤度関数を求めます。
尤度関数 の対数をとります。
途中式の途中式(クリックで展開)
- 1: 式(4)の対数をとった式を立てます。
- 2:
の確率密度関数に、式(4)を代入します。
- 3: 対数の性質
、
、自然対数と指数の関係
より、式全体の対数をとります。
対数尤度関数の式が得られました。
以上で、SLMの尤度関数を確認しました。
この記事では、SLMの尤度関数を数式で確認しました。次の記事では、ヘッセ行列を数式で確認します。
参考文献
おわりに
書き始めた段階では、モデルの定義からパラメータの推定まで「最尤法の導出」の1つの記事に全て書くつもりだったのですが、どれも細かく書くと長く重くなっていったので、それぞれ分割していったら次の記事(3記事目)でも最尤法まで辿り着かなくなりました。頑張って読んでください。作業的には最後まで書き終わっていないので、この後どう展開するのかまだ分かりません。
2026年6月24日は、モーニング娘。の12期メンバーの牧野真莉愛さんの卒業コンサートの開催日です。
私がこれまで見てきたアイドルの中で一番いい人だと思うんですよね。いい人がいい人のままでいられる環境でよかったと思います。
これからの旅路も幸せが溢れるまりあんらぶりんな日々であることを願っています。卒業おめでとうございます!
【次の内容】
SLMのヘッセ行列を数式で確認します。
SEMの対数尤度関数を数式で確認します。
