はじめに

　『Pythonによるはじめての地理空間データサイエンス』の独学時のまとめノートです。「導出編」「実装編」「可視化編」の三部構成でモデルやアルゴリズムの理解を目指します。
　本の内容から寄り道・回り道しながら進めます。本を読んだ上で補助的に読んでください。

　この記事では、空間誤差モデルの仮定について、数式を使って解説します。

【前の内容】

www.anarchive-beta.com

【他の内容】

www.anarchive-beta.com

【今回の内容】

はじめに
0.1.3 空間誤差モデル(SEM)の定義式
- モデルの設定
参考文献
おわりに

0.1.3 空間誤差モデル(SEM)の定義式

　空間誤差モデル(SEM・Spatial Error Model)の定義(仮定)を数式で確認します。
　線形回帰モデルについては「線形回帰モデルの定義式」、空間ラグモデルについては「【Python】0.1.2：空間ラグモデル(SLM)の定義式【はじめての地理空間DSのノート】 - からっぽのしょこ」を参照してください。

モデルの設定

　SEMの定義(仮定)を数式で確認します。
　空間重み行列については「空間重み行列の定義式」、多変量正規分布については「多次元ガウス分布の定義式 - からっぽのしょこ」を参照してください。

変数・パラメータ

　SEMの変数やパラメータなどの表記を確認します。

　地域数(データ数)を $N$ 、地域番号(データ番号・インデックス)を $n \in \{1, 2, \dots, N\}$ とします。 $n$ 番目の地域(データ)や地域 $n$ と呼びます。場合によっては、 $i, j$ などでも地域を表します。
　説明変数に対応するパラメータ数(次元数)を $K$ 、パラメータ番号(次元番号)を $k \in \{0, 1, 2, \dots, K\}$ とします。 $k$ 番目のパラメータや $k$ 番目の次元と呼びます。切片 $k = 0$ を含めるので、パラメータ数(回帰パラメータの数)は $K+1$ です。

　地域 $n$ の説明変数(入力データ)を $K+1$ 次元ベクトル $\mathbf{x}_n$ とします。

$\displaystyle \mathbf{x}_n = \begin{pmatrix} x_{n0} \\ x_{n1} \\ x_{n2} \\ \vdots \\ x_{nK} \end{pmatrix} = \begin{pmatrix} 1 \\ x_{n1} \\ x_{n2} \\ \vdots \\ x_{nK} \end{pmatrix}$

　全ての地域で、 $0$ 番目 $k = 0$ の要素を $x_{n0} = 1$ とします。
　 $N$ 個の地域の説明変数をまとめて、 $N \times (K+1)$ の行列 $\mathbf{X}$ とします。

$\displaystyle \begin{aligned} \mathbf{X} = \begin{pmatrix} \mathbf{x}_1^{\top} \\ \mathbf{x}_2^{\top} \\ \vdots \\ \mathbf{x}_N^{\top} \end{pmatrix} &= \begin{pmatrix} x_{10} & x_{11} & x_{12} & \cdots & x_{1K} \\ x_{20} & x_{21} & x_{22} & \cdots & x_{2K} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ x_{N0} & x_{N1} & x_{N2} & \cdots & x_{NK} \end{pmatrix} \\ &= \begin{pmatrix} 1 & x_{11} & x_{12} & \cdots & x_{1K} \\ 1 & x_{21} & x_{22} & \cdots & x_{2K} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ 1 & x_{N1} & x_{N2} & \cdots & x_{NK} \end{pmatrix} \end{aligned}$

　 $\mathbf{X}$ の各行が各地域の説明変数 $\mathbf{x}_n$ に対応します。

　地域 $n$ の被説明変数(出力データ)を $y_n$ とします。
　 $N$ 個の地域の被説明変数をまとめて、 $N$ 次元ベクトル $\mathbf{y}$ とします。

$\displaystyle \mathbf{y} = \begin{pmatrix} y_1 \\ y_2 \\ \vdots \\ y_N \end{pmatrix}$

　各説明変数 $\mathbf{x}_n$ の $k$ 番目の要素 $x_{nk}$ に対応する回帰パラメータ(回帰係数)を $\beta_k$ とします。
　 $K+1$ 個の次元の回帰パラメータをまとめて、 $K+1$ 次元ベクトル $\boldsymbol{\beta}$ とします。

$\displaystyle \boldsymbol{\beta} = \begin{pmatrix} \beta_0 \\ \beta_1 \\ \beta_2 \\ \vdots \\ \beta_K \end{pmatrix}$

　 $0$ 番目 $k = 0$ の要素 $\beta_0$ は切片に対応します。

　地域 $n$ の独立誤差項を $\epsilon_n$ とします。
　 $N$ 個の地域の独立誤差項をまとめて、 $N$ 次元ベクトル $\boldsymbol{\epsilon}$ とします。

$\displaystyle \boldsymbol{\epsilon} = \begin{pmatrix} \epsilon_1 \\ \epsilon_2 \\ \vdots \\ \epsilon_N \end{pmatrix}$

　各独立誤差項 $\epsilon_n$ は、平均 $\mu = 0$ ・分散 $\sigma^2$ (標準偏差 $\sigma$ )の一変量正規分布(1次元ガウス分布)に従って、独立に生成されると仮定します。

$\displaystyle \epsilon_n \sim \mathcal{N}(0, \sigma^2)$

　このとき、独立誤差項( $N$ 個の独立誤差項のベクトル) $\boldsymbol{\epsilon}$ は、平均ベクトル $\boldsymbol{\mu} = \mathbf{0}$ ・分散共分散行列 $\boldsymbol{\Sigma} = \sigma^2 \mathbf{I}$ の多変量正規分布(多次元ガウス分布)に従うと言えます。

$\displaystyle \boldsymbol{\epsilon} \sim \mathcal{N}(\mathbf{0}, \sigma^2 \mathbf{I}) \tag{0.5.b}$

　独立誤差項 $\boldsymbol{\epsilon}$ の平均ベクトルは、 $N$ 次元の0ベクトルになります。

$\displaystyle \boldsymbol{\mu} = \begin{pmatrix} \mu_1 \\ \mu_2 \\ \vdots \\ \mu_N \end{pmatrix} = \begin{pmatrix} 0 \\ 0 \\ 0 \\ 0 \end{pmatrix} = \mathbf{0}$

　全ての地域で、平均は $\mu_n = 0\ (n = 1, \dots, N)$ で固定です。
　独立誤差項 $\boldsymbol{\epsilon}$ の分散共分散行列は、対角要素が $\sigma^2$ の $N \times N$ の対角行列になります。

$\displaystyle \begin{aligned} \boldsymbol{\Sigma} &= \begin{pmatrix} \sigma_1^2 & \sigma_{12} & \cdots & \sigma_{1N} \\ \sigma_{21} & \sigma_2^2 & \cdots & \sigma_{1N} \\ \vdots & \vdots & \ddots & \vdots \\ \sigma_{N1} & \sigma_{N2} & \cdots & \sigma_N^2 \end{pmatrix} \\ &= \begin{pmatrix} \sigma^2 & 0 & \cdots & 0 \\ 0 & \sigma^2 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & \sigma^2 \end{pmatrix} \\ &= \sigma^2 \begin{pmatrix} 1 & 0 & \cdots & 0 \\ 0 & 1 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & 1 \end{pmatrix} \\ &= \sigma^2 \mathbf{I} \end{aligned}$

　全ての地域で、分散は $\sigma_n = \sigma^2\ (n = 1, \dots, N)$ で固定です。
　各独立誤差項は独立に生成される(無相関)ので、異なる2つの地域 $i, j$ ( $i, j$ 番目)の独立誤差項 $\epsilon_i, \epsilon_j$ の共分散は $\sigma_{ij} = 0\ (i \neq j)$ です。

　地域 $i$ に関して、各地域 $j$ に対する重みを $w_{ij}$ とします。
　地域 $i$ に関する $N$ 個の地域に対する重みをまとめて、地域 $i$ に関する重みを $N$ 次元ベクトル $\mathbf{w}_i$ とします。

$\displaystyle \mathbf{w}_i = \begin{pmatrix} w_{i1} \\ w_{i2} \\ \vdots \\ w_{iN} \end{pmatrix}$

　 $\mathbf{w}_i$ の各要素は、0から1の値であり、総和が1になる条件を満たす必要があります。

$\displaystyle 0 \leq w_{ij} \leq 1 ,\ \sum_{j=1}^N w_{ij} = 1$

　 $N$ 個の地域に関する重みをまとめて、空間重み行列を $N \times N$ の行列 $\mathbf{W}$ とします。

$\displaystyle \mathbf{W} = \begin{pmatrix} \mathbf{w}_1^{\top} \\ \mathbf{w}_2^{\top} \\ \vdots \\ \mathbf{w}_N^{\top} \end{pmatrix} = \begin{pmatrix} w_{11} & w_{12} & \cdots & w_{1N} \\ w_{21} & w_{22} & \cdots & w_{2N} \\ \vdots & \vdots & \ddots & \vdots \\ w_{N1} & w_{N2} & \cdots & w_{NN} \end{pmatrix}$

　 $\mathbf{W}$ の各行が各地域の説明変数 $\mathbf{w}_n$ に対応します。

　空間パラメータ(空間自己回帰係数)を $\lambda$ とします。
　空間重み行列 $\mathbf{W}$ の固有値を $\lambda_1, \lambda_2, \cdots, \lambda_N$ 、 $N$ 個の固有値の最小値を $\lambda_{\min}$ 、最大値を $\lambda_{\max}$ で表すと、 $\lambda$ は、 $\lambda_{\min}$ の逆数より大きく $\lambda_{\max}$ の逆数より小さい値を満たす必要があります。

$\displaystyle \frac{1}{\lambda_{\min}} \lt \lambda \lt \frac{1}{\lambda_{\max}}$

　パラメータの条件については「SEMの尤度関数の導出」を参照してください。

　以上の変数やパラメータなどを用いてモデルを定義します。

定義式

　続いて、SEMの定義式を確認します。

　SLMは、次の式で定義されます。この式は、各地域の被説明変数 $y_n$ の計算式を表します。

$\begin{align} y_n &= \mathbf{x}_n^{\top} \boldsymbol{\beta} + u_n \tag{1.a}\\ &= \begin{pmatrix} x_{n0} & x_{n1} & x_{n2} & \cdots & x_{nK} \end{pmatrix} \begin{pmatrix} \beta_0 \\ \beta_1 \\ \beta_2 \\ \vdots \\ \beta_K \end{pmatrix} + u_n \\ &= x_{n0} \beta_0 + x_{n1} \beta_1 + x_{n2} \beta_2 + \cdots + x_{nK} \beta_K + u_n \\ &= \sum_{k=0}^K x_{nk} \beta_k + u_n \\ &= \beta_0 + \sum_{k=1}^K x_{nk} \beta_k + u_n \tag{1.a'} \end{align}$

　地域 $n$ の空間誤差項を $u_n$ とします。

$\begin{align} u_n &= \lambda \mathbf{w}_n^{\top} \boldsymbol{u} + \epsilon_n \tag{1.b}\\ &= \lambda \begin{pmatrix} w_{n1} & w_{n2} & \cdots & w_{nN} \end{pmatrix} \begin{pmatrix} u_1 \\ u_2 \\ \vdots \\ u_N \end{pmatrix} + \epsilon_n \\ &= \lambda \Bigl( w_{n1} u_1 + w_{n2} u_2 + \cdots + w_{nN} u_N \Bigr) + \epsilon_n \\ &= \lambda \sum_{j=1}^N w_{nj} u_j + \epsilon_n \tag{1.b'} \end{align}$

　 $N$ 個の地域の被説明変数 $\mathbf{y}$ を用いると、次の式で定義されます。

$\begin{align} \mathbf{y} &= \mathbf{X} \boldsymbol{\beta} + \mathbf{u} \tag{0.9.a}\\ \mathbf{u} &= \lambda \mathbf{W} \mathbf{u} + \boldsymbol{\epsilon} \tag{0.9.b} \end{align}$

　 $\mathbf{u}$ の計算式(左右の辺)に $\mathbf{u}$ を含んでいることから、SEMは、誤差項に空間自己回帰を組み込んだモデルであることが分かります。
　行列の要素を明示して計算すると、次の式になります。

$\begin{align} \begin{pmatrix} y_1 \\ y_2 \\ \vdots \\ y_N \end{pmatrix} &= \begin{pmatrix} x_{10} & x_{11} & x_{12} & \cdots & x_{1K} \\ x_{20} & x_{21} & x_{22} & \cdots & x_{2K} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ x_{N0} & x_{N1} & x_{N2} & \cdots & x_{NK} \end{pmatrix} \begin{pmatrix} \beta_0 \\ \beta_1 \\ \beta_2 \\ \vdots \\ \beta_K \end{pmatrix} + \begin{pmatrix} u_0 \\ u_2 \\ \vdots \\ u_N \end{pmatrix} \tag{0.9.a}\\ &= \begin{pmatrix} \beta_0 + \sum_{k=1}^K x_{1k} \beta_k \\ \beta_0 + \sum_{k=1}^K x_{2k} \beta_k \\ \vdots \\ \beta_0 + \sum_{k=1}^K x_{Nk} \beta_k \end{pmatrix} + \begin{pmatrix} u_0 \\ u_2 \\ \vdots \\ u_N \end{pmatrix} \\ &= \begin{pmatrix} \beta_0 + \sum_{k=1}^K x_{1k} \beta_k + u_1 \\ \beta_0 + \sum_{k=1}^K x_{2k} \beta_k + u_2 \\ \vdots \\ \beta_0 + \sum_{k=1}^K x_{Nk} \beta_k + u_N \\ \end{pmatrix} \tag{0.9.a'} \end{align}$

　 $N$ 個の地域の空間誤差項をまとめて、 $N$ 次元ベクトル $\mathbf{u}$ とします。

$\begin{align} \begin{pmatrix} u_0 \\ u_2 \\ \vdots \\ u_N \end{pmatrix} &= \lambda \begin{pmatrix} w_{11} & w_{12} & \cdots & w_{1N} \\ w_{21} & w_{22} & \cdots & w_{2N} \\ \vdots & \vdots & \ddots & \vdots \\ w_{N1} & w_{N2} & \cdots & w_{NN} \end{pmatrix} \begin{pmatrix} u_0 \\ u_2 \\ \vdots \\ u_N \end{pmatrix} + \begin{pmatrix} \epsilon_1 \\ \epsilon_2 \\ \vdots \\ \epsilon_N \end{pmatrix} \tag{0.9.b}\\ &= \lambda \begin{pmatrix} \sum_{j=1}^N w_{1j} u_j \\ \sum_{j=1}^N w_{2j} u_j \\ \vdots \\ \sum_{j=1}^N w_{Nj} u_j \\ \end{pmatrix} + \begin{pmatrix} \epsilon_1 \\ \epsilon_2 \\ \vdots \\ \epsilon_N \end{pmatrix} \\ &= \begin{pmatrix} \lambda \sum_{j=1}^N w_{1j} u_j + \epsilon_1 \\ \lambda \sum_{j=1}^N w_{2j} u_j + \epsilon_2 \\ \vdots \\ \lambda \sum_{j=1}^N w_{Nj} u_j + \epsilon_N \\ \end{pmatrix} \tag{0.9.b'} \end{align}$

　各要素が各地域における定義式(1')に対応します。

　以上で、モデルを定義しました。

計算式

　さらに、SEMに関する計算式を求めます。

　SEMの定義式(0.36)を空間誤差項 $\mathbf{u}$ について整理します。

$\begin{align} && \mathbf{u} &= \lambda \mathbf{W} \mathbf{u} + \boldsymbol{\epsilon} \tag{0.9.b}\\ \Rightarrow && \mathbf{u} - \lambda \mathbf{W} \mathbf{u} &= \boldsymbol{\epsilon} \\ \Rightarrow && (\mathbf{I} - \lambda \mathbf{W}) \mathbf{u} &= \boldsymbol{\epsilon} \\ \Rightarrow && \mathbf{u} &= (\mathbf{I} - \lambda \mathbf{W})^{-1} \boldsymbol{\epsilon} \tag{2.b}\\ && &= \mathbf{A}^{-1} \boldsymbol{\epsilon} \end{align}$

途中式の途中式(クリックで展開)

1: 式(0.9.b)を再掲しています。
2: $\mathbf{u}$ 以外の項を右辺に移します。
3: $\mathbf{u}$ を括り出します。
4: 両辺に、 $\mathbf{u}$ の係数の項の逆行列を左から掛けます。
5: $\boldsymbol{\epsilon}$ の係数の項を式(5)で置き換えます。

　定義式(0.9.a)に空間誤差項の式(2.b)を代入します。

$\begin{align} \mathbf{y} &= \mathbf{X} \boldsymbol{\beta} + \mathbf{u} \tag{0.9.a}\\ &= \mathbf{X} \boldsymbol{\beta} + (\mathbf{I} - \lambda \mathbf{W})^{-1} \boldsymbol{\epsilon} \tag{2.a}\\ &= \mathbf{X} \boldsymbol{\beta} + \mathbf{A}^{-1} \boldsymbol{\epsilon} \end{align}$

　定義式(2.a)を独立誤差項 $\boldsymbol{\epsilon}$ について整理します。

$\begin{align} && (\mathbf{I} - \lambda \mathbf{W})^{-1} \boldsymbol{\epsilon} &= \mathbf{y} - \mathbf{X} \boldsymbol{\beta} \\ \Rightarrow && \boldsymbol{\epsilon} &= (\mathbf{I} - \lambda \mathbf{W}) \mathbf{y} - (\mathbf{I} - \lambda \mathbf{W}) \mathbf{X} \boldsymbol{\beta} \\ \Rightarrow && &= \mathbf{A} \mathbf{y} - \mathbf{A} \mathbf{X} \boldsymbol{\beta} \\ \Rightarrow && &= \mathbf{A} (\mathbf{y} - \mathbf{X} \boldsymbol{\beta}) \tag{3} \end{align}$

途中式の途中式(クリックで展開)

1: 式(2.a)について、 $\boldsymbol{\epsilon}$ 以外の項を右辺に移した式を立てます。
2: 両辺に、 $\boldsymbol{\epsilon}$ の係数の項の逆行列を左から掛けます。
3: $\mathbf{X}, \mathbf{y}$ の係数の項を式(5)で置き換えます。
4: $\mathbf{A}$ を括り出します。

　行列の要素を明示して計算すると、次の式になります。

$\begin{align} \begin{pmatrix} \epsilon_1 \\ \epsilon_2 \\ \vdots \\ \epsilon_N \end{pmatrix} &= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1N} \\ a_{21} & a_{22} & \cdots & a_{2N} \\ \vdots & \vdots & \ddots & \vdots \\ a_{N1} & a_{N2} & \cdots & a_{NN} \end{pmatrix} \left( \begin{pmatrix} y_1 \\ y_2 \\ \vdots \\ y_N \end{pmatrix} + \begin{pmatrix} x_{10} & x_{11} & x_{12} & \cdots & x_{1K} \\ x_{20} & x_{21} & x_{22} & \cdots & x_{2K} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ x_{N0} & x_{N1} & x_{N2} & \cdots & x_{NK} \end{pmatrix} \begin{pmatrix} \beta_0 \\ \beta_1 \\ \beta_2 \\ \vdots \\ \beta_K \end{pmatrix} \right) \tag{3}\\ &= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1N} \\ a_{21} & a_{22} & \cdots & a_{2N} \\ \vdots & \vdots & \ddots & \vdots \\ a_{N1} & a_{N2} & \cdots & a_{NN} \end{pmatrix} \left( \begin{pmatrix} y_1 \\ y_2 \\ \vdots \\ y_N \end{pmatrix} + \begin{pmatrix} \beta_0 + \sum_{k=1}^K x_{1k} \beta_k \\ \beta_0 + \sum_{k=1}^K x_{2k} \beta_k \\ \vdots \\ \beta_0 + \sum_{k=1}^K x_{Nk} \beta_k \end{pmatrix} \right) \\ &= \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1N} \\ a_{21} & a_{22} & \cdots & a_{2N} \\ \vdots & \vdots & \ddots & \vdots \\ a_{N1} & a_{N2} & \cdots & a_{NN} \end{pmatrix} \begin{pmatrix} y_1 + \beta_0 + \sum_{k=1}^K x_{1k} \beta_k \\ y_2 + \beta_0 + \sum_{k=1}^K x_{2k} \beta_k \\ \vdots \\ y_N + \beta_0 + \sum_{k=1}^K x_{Nk} \beta_k \end{pmatrix} \\ &= \begin{pmatrix} \sum_{j=1}^N a_{1j} (y_j + \beta_0 + \sum_{k=1}^K x_{jk} \beta_k) \\ \sum_{j=1}^N a_{2j} (y_j + \beta_0 + \sum_{k=1}^K x_{jk} \beta_k) \\ \vdots \\ \sum_{j=1}^N a_{Nj} (y_j + \beta_0 + \sum_{k=1}^K x_{jk} \beta_k) \end{pmatrix} \tag{3'} \end{align}$

　各要素が各地域における独立誤差項の式(4')に対応します。

　 $N$ 個の独立誤差項 $\boldsymbol{\epsilon}$ の式(3)から各地域の独立誤差項 $\epsilon_n$ について取り出すと、次の式になります。

$\begin{align} \epsilon_n &= \mathbf{a}_n^{\top} (\mathbf{y} - \mathbf{X} \boldsymbol{\beta}) \tag{4}\\ &= \begin{pmatrix} a_{n1} & a_{n2} & \cdots & a_{nN} \end{pmatrix} \left( \begin{pmatrix} y_1 \\ y_2 \\ \vdots \\ y_N \end{pmatrix} + \begin{pmatrix} x_{10} & x_{11} & x_{12} & \cdots & x_{1K} \\ x_{20} & x_{21} & x_{22} & \cdots & x_{2K} \\ \vdots & \vdots & \vdots & \ddots & \vdots \\ x_{N0} & x_{N1} & x_{N2} & \cdots & x_{NK} \end{pmatrix} \begin{pmatrix} \beta_0 \\ \beta_1 \\ \beta_2 \\ \vdots \\ \beta_K \end{pmatrix} \right) \\ &= \begin{pmatrix} a_{n1} & a_{n2} & \cdots & a_{nN} \end{pmatrix} \left( \begin{pmatrix} y_1 \\ y_2 \\ \vdots \\ y_N \end{pmatrix} + \begin{pmatrix} \beta_0 + \sum_{k=1}^K x_{1k} \beta_k \\ \beta_0 + \sum_{k=1}^K x_{2k} \beta_k \\ \vdots \\ \beta_0 + \sum_{k=1}^K x_{Nk} \beta_k \end{pmatrix} \right) \\ &= \begin{pmatrix} a_{n1} & a_{n2} & \cdots & a_{nN} \end{pmatrix} \begin{pmatrix} y_1 + \beta_0 + \sum_{k=1}^K x_{1k} \beta_k \\ y_2 + \beta_0 + \sum_{k=1}^K x_{2k} \beta_k \\ \vdots \\ y_N + \beta_0 + \sum_{k=1}^K x_{Nk} \beta_k \end{pmatrix} \\ &= \sum_{j=1}^N a_{nj} \Biggl( y_j + \beta_0 + \sum_{k=1}^K x_{jk} \beta_k \Biggr) \tag{4'} \end{align}$

　説明変数・被説明変数 $\mathbf{X}, \mathbf{y}$ の係数について、次のようにおきました。

$\displaystyle \mathbf{A} = \mathbf{I} - \lambda \mathbf{W} \tag{5}$

　行列の要素を明示して計算すると、次の式になります。

$\begin{align} \begin{pmatrix} a_{11} & a_{12} & \cdots & a_{1N} \\ a_{21} & a_{22} & \cdots & a_{2N} \\ \vdots & \vdots & \ddots & \vdots \\ a_{N1} & a_{N2} & \cdots & a_{NN} \end{pmatrix} &= \begin{pmatrix} 1 & 0 & \cdots & 0 \\ 0 & 1 & \cdots & 0 \\ \vdots & \vdots & \ddots & \vdots \\ 0 & 0 & \cdots & 1 \end{pmatrix} - \lambda \begin{pmatrix} w_{11} & w_{12} & \cdots & w_{1N} \\ w_{21} & w_{22} & \cdots & w_{2N} \\ \vdots & \vdots & \ddots & \vdots \\ w_{N1} & w_{N2} & \cdots & w_{NN} \end{pmatrix} \tag{5}\\ &= \begin{pmatrix} 1 - \lambda w_{11} & - \lambda w_{12} & \cdots & - \lambda w_{1N} \\ - \lambda w_{21} & 1 - \lambda w_{22} & \cdots & - \lambda w_{2N} \\ \vdots & \vdots & \ddots & \vdots \\ - \lambda w_{N1} & - \lambda w_{N2} & \cdots & 1 - \lambda w_{NN} \end{pmatrix} \tag{5'} \end{align}$

　空間重み行列 $\mathbf{W}$ に関して、同じ地域の組み合わせ(地域 $n$ 自体)は隣接関係がない(重みを0) $w_{nn} = 0$ とする場合は、 $\mathbf{W}$ の対角要素が0なので、 $\mathbf{A}$ の対角要素は $a_{nn} = 1 - \lambda w_{nn} = 1$ になります。

　独立誤差項 $\boldsymbol{\epsilon}$ の内積(2乗和)を計算します。

$\begin{align} \boldsymbol{\epsilon}^{\top} \boldsymbol{\epsilon} &= \Bigl( \mathbf{A} (\mathbf{y} - \mathbf{X} \boldsymbol{\beta}) \Bigr)^{\top} \Bigl( \mathbf{A} (\mathbf{y} - \mathbf{X} \boldsymbol{\beta}) \Bigr) \\ &= (\mathbf{y} - \mathbf{X} \boldsymbol{\beta})^{\top} \mathbf{A}^{\top} \mathbf{A} (\mathbf{y} - \mathbf{X} \boldsymbol{\beta}) \\ &= \mathbf{y}^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{y} - (\mathbf{X} \boldsymbol{\beta})^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{y} - \mathbf{y}^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{X} \boldsymbol{\beta} + (\mathbf{X} \boldsymbol{\beta})^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{X} \boldsymbol{\beta} \\ &= \mathbf{y}^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{y} - \boldsymbol{\beta}^{\top} \mathbf{X}^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{y} - \mathbf{y}^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{X} \boldsymbol{\beta} + \boldsymbol{\beta}^{\top} \mathbf{X}^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{X} \boldsymbol{\beta} \\ &= \mathbf{y}^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{y} - 2 \boldsymbol{\beta}^{\top} \mathbf{X}^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{y} + \boldsymbol{\beta}^{\top} \mathbf{X}^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{X} \boldsymbol{\beta} \tag{6} \end{align}$

途中式の途中式(クリックで展開)

1: 式(3)を用いて、 $\boldsymbol{\epsilon}$ の内積の式を立てます。
2: 転置の性質 $(\mathbf{A} \mathbf{B})^{\top} = \mathbf{B}^{\top} \mathbf{A}^{\top}$ より、括弧を展開します。
3: 転置の性質 $(\mathbf{A} + \mathbf{B})^{\top} = \mathbf{A}^{\top} + \mathbf{B}^{\top}$ より、括弧を展開します。
4: 転置の性質 $(\mathbf{A} \mathbf{B})^{\top} = \mathbf{B}^{\top} \mathbf{A}^{\top}$ より、括弧を展開します。
5: 中2つの項は二次形式(スカラ)なので、転置できます。

　2つの項が一致するのでまとめます。

$\displaystyle \begin{aligned} \boldsymbol{\beta}^{\top} \mathbf{X}^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{y} &= ( \boldsymbol{\beta}^{\top} \mathbf{X}^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{y})^{\top} \\ &= \mathbf{y}^{\top} \mathbf{A}^{\top} \mathbf{A} \mathbf{X} \boldsymbol{\beta} \end{aligned}$

　以上で、SEMの定義を確認しました。

　この記事では、SEMの仮定を数式で確認しました。次の記事では、尤度関数を数式で確認します。

参考文献

Pythonによるはじめての地理空間データサイエンス

作者:植杉大
森北出版

Amazon

おわりに

　SLMと並行してSEMも書いています。SLMで書いたものを一旦コピペして、仮定の違いからくる異なる部分を書き換えるという感じで作業を進めているので、2つのモデルの違いの理解も進みます。
　対比するような構成で書いているので、2つの記事を並べて読み比べてみてください。

　ところで最近、はてなブログの数式周りの仕様が変わりましてそれに伴いバグも発生していまして、現時点でも過去記事で一部の数式が表示されなくなったり、これまでより追加の作業が増えたり、それが仕様変更(対応した方がいい)なのか今後修正されるバグ(放置した方がいい)なのかも分からずとても面倒な状況になっておりまして……誰かなんとかしてください。
　それとは別に、予約投稿記事の自動ツイート機能も廃止になりまして、仕様がないとは思いますが本当に手間が増えて困っています。
　これまでも何度か移転も考えましたが当然どこも一長一短ありますし、なにより750超も記事があって移転作業も超面倒でしょうし、まだここにいるつもりなのでなんとかなりませんか。切実にお願いします。

　最後に、先日公開された宮本佳林さんのMVをどうぞ♪

【次の内容】

　SEMの対数尤度関数を数式で確認します。

からっぽのしょこ

はてなブログの仕様変更の影響で、数式の表示が崩壊しています。読んだら書く！書いたら読む！同じ事は二度調べ(たく)ない

0.1.3：空間誤差モデル(SEM)の定義式【はじめての地理空間DSのノート】

はじめに

0.1.3 空間誤差モデル(SEM)の定義式

モデルの設定

変数・パラメータ

定義式

計算式

参考文献

おわりに