ベイズ線形回帰

線形回帰をベイズ統計学の範疇で説明します。積分も微分も必要なくて、行列の計算だけで面白い結果を得る事が出来ます。

ベイズの定理

ベイズの定理の復習をします。詳しい話は以下の記事をご覧ください。

ベイズ統計学入門

、ベイズの定理について解説し、具体例の計算をします。良くあるサイコロの問題と、正規分布を事前分布に仮定した時の事後分布のパラメーターを求めます。

masamunetogetoge.com

2019.06.25

確率密度関数や確率質量関数の事を確率と呼んでしまいます。
確率$p(x,y)$に対して、$p(x),p(x|y)$は以下で定義されました。
$$\begin{array}{rcl}p(x)& =& {\int }_{x}p(x,y)dy\\ p(x|y)& =& \frac{p(x,y)}{p(y)}\end{array}$$
ベイズの定理は次の式です。
$$\begin{array}{rcl}p(x|y)& =& \frac{p(y|x)p(x)}{p(y)}\end{array}$$

線形回帰と確率の関係付け

ベイズの定理で計算するために、正規分布と多次元正規分布を使います。基本的な性質は以下の記事にまとめてあります。

正規分布の性質

正規分布の導入をします。確率になっていること、平均の値、分散の値を具体的に計算します。

masamunetogetoge.com

2019.06.26

多次元正規分布の性質

多次元正規分布の定義の平均値や分散を計算します。最尤推定によって得られた平均値や分散が、不偏推定量になっているか確かめます。その結果をもとに、多次元正規分布が正規分布の拡張になっている事を確かめます。

masamunetogetoge.com

2019.07.07

線形回帰は、以下のモデルの誤差関数$ϵ$ を最小にするモデルでした。
$$\begin{array}{r}y=\overrightarrow{w}\cdot \overrightarrow{x}+ϵ\end{array}$$
確率とつなげる為に、$ϵ=\mathcal{N}(ϵ|0,{\lambda }^{-1})$ を仮定しましょう。ただし、平均$\mu$ 、分散${\lambda }^{-1}$の正規分布を$\mathcal{N}(x|\mu ,{\lambda }^{-1})$で表しました。すると、 yは$\overrightarrow{x},\overrightarrow{w}$を与えたとき、以下の確率に従います。
$$\begin{array}{r}y=\mathcal{N}(y|\overrightarrow{w}\cdot \overrightarrow{x},{\lambda }^{-1})\end{array}$$
目標は、データxを与えたときの予測値yの確率$p(y|x)$ です。計算を進めるため、$\overrightarrow{w}$が従う確率分布を多次元正規分布に仮定します。
$$\begin{array}{r}p(\overrightarrow{w})=\mathcal{N}(\overrightarrow{w}|\overrightarrow{m},{\mathrm{\Lambda }}^{-1})\end{array}$$
$\overrightarrow{m},{\mathrm{\Lambda }}^{-1}$はハイパーパラメーターで、適当なベクトルや行列を入れます。ゼロベクトルと単位行列とかで良いです。
これで最低限の準備が整いました。計算していきましょう。

ベイズの定理による計算

データ$X=\{\overrightarrow{x_1},\cdots ,\overrightarrow{x_n}\},Y=\{y_1,\cdots ,y_n\}$が得られたとして、$p(\overrightarrow{w}|X,\overrightarrow{y})$を求めます。
$$\begin{array}{r}p(\overrightarrow{w}|X,\overrightarrow{y})=\frac{p(\overrightarrow{w})\prod p(y_i|x_i,\overrightarrow{w})}{p(Y|X)}\end{array}$$
$\overrightarrow{w}$に関係があるのは分子のみです。定番ですが、$\log$をとって $\overrightarrow{w}$ で整理しましょう。
$$\begin{array}{rcl}& \log & p(\overrightarrow{w}|X,\overrightarrow{y})\\ & =& -\frac{1}{2}\{{\overrightarrow{w}}^T(\lambda \sum \overrightarrow{x_i}{\overrightarrow{x_i}}^T+\mathrm{\Lambda })-2{\overrightarrow{w}}^T(\lambda \sum y_i\overrightarrow{x_i}+\mathrm{\Lambda }\overrightarrow{m}\}+const\end{array}$$
データX,Yからパラメーター$\overrightarrow{w}$が以下のように予測できます。

新しくデータ$x_{\ast }$を得たとして、その予測値を$y_{\ast }$としましょう。ベイズの定理から
$$\begin{array}{r}p(\overrightarrow{w}|x_{\ast },y_{\ast })=\frac{p(\overrightarrow{w})p(y_{\ast }|\overrightarrow{x},\overrightarrow{w})}{p(y_{\ast }|x_{\ast })}\end{array}$$
です。これを変形して、
$$\begin{array}{r}p(y_{\ast }|x_{\ast })\propto \frac{p(y_{\ast }|\overrightarrow{x},\overrightarrow{w})}{p(\overrightarrow{w}|x_{\ast },y_{\ast })}\end{array}$$
logを取って、$y_{\ast }$についてまとめましょう。正規分布が出てくるはずです。
$$\begin{array}{r}\log p(y_{\ast }|x_{\ast })\propto -\frac{1}{2}\{(\lambda –{\lambda }^2{\overrightarrow{x_{\ast }}}^T{\hat{\mathrm{\Lambda }}}^{-1}\overrightarrow{x_{\ast }})y_{\ast }^2-2(\lambda {\overrightarrow{x_{\ast }}}^T{\hat{\mathrm{\Lambda }}}^{-1}\mathrm{\Lambda }\overrightarrow{m})y_{\ast }\}\end{array}$$
この式から、$y_{\ast }$の従う確率は以下になります。

この段階でも実装しようと思えば出来ますが、式が非常に汚いです。${\hat{\mathrm{\Lambda }}}^{-1}$に関する項をもう少し綺麗な形にしましょう。その為には逆行列に関する 公式が必要 ¹ です。

行列の計算

良く出てくる行列に関しては、逆行列が知られています。

回帰分析の話に戻って、$x_{\ast }^T{\hat{\mathrm{\Lambda }}}^{-1}{x}_{\ast }$を計算しましょう。初めに、$\hat{\mathrm{\Lambda }}=\mathrm{\Lambda }+\overrightarrow{x_{\ast }}\lambda {\overrightarrow{x_{\ast }}}^T$にウッドベリーの公式を当てはめると、逆行列が計算できます。
$$\begin{array}{rcl}(\mathrm{\Lambda }+\overrightarrow{x_{\ast }}\lambda {\overrightarrow{x_{\ast }}}^T{)}^{-1}& =& {\mathrm{\Lambda }}^{-1}–{\mathrm{\Lambda }}^{-1}{\overrightarrow{x_{\ast }}}^T({\lambda }^{-1}+{\overrightarrow{x_{\ast }}}^T{\mathrm{\Lambda }}^{-1}\overrightarrow{x_{\ast }}){\overrightarrow{x_{\ast }}}^T{\mathrm{\Lambda }}^{-1}\\ & =& {\mathrm{\Lambda }}^{-1}–\frac{1}{{\lambda }^{-1}+{\overrightarrow{x_{\ast }}}^T{\mathrm{\Lambda }}^{-1}\overrightarrow{x_{\ast }}}{\mathrm{\Lambda }}^{-1}\overrightarrow{x_{\ast }}{\overrightarrow{x_{\ast }}}^T{\mathrm{\Lambda }}^{-1}\end{array}$$
計算の見通しを良くするために、$\mathcal{L}={\overrightarrow{x_{\ast }}}^T{\mathrm{\Lambda }}^{-1}\overrightarrow{x_{\ast }}$と置きましょう。この置き換えをしておいて、次のような計算が出来ます。
$$\begin{array}{rcl}{x}_{\ast }^T{\hat{\mathrm{\Lambda }}}^{-1}{x}_{\ast }& =& \mathcal{L}–\frac{{\mathcal{L}}^2}{{\lambda }^{-1}+\mathcal{L}}\\ & =& \frac{{\lambda }^{-1}\mathcal{L}}{{\lambda }^{-1}+\mathcal{L}}\end{array}$$
この計算結果で、汚かった$y_{\ast }$を計算してみましょう。

予測式の中身を見てみましょう。
$\lambda ,\overrightarrow{m},\mathrm{\Lambda }$ ハイパーパラメーターです。$\lambda$ は誤差関数の分散なので、データ全体の分散を表すハイパーパラメーターです。$\overrightarrow{m},\mathrm{\Lambda }$ は、パラメーター $\overrightarrow{w}$の平均値と分散でした。予測値の平均値は、大体${\overrightarrow{w}}^T\overrightarrow{x_{\ast }}$になると言っています。分散はについては誤差関数の分はそのまま受け継ぎ、計量を$\overrightarrow{w}$の分散とした 新しいデータのノルム分だけ増加させます。つまり、今までのデータと比べて大きく異なっていれば、分散を大きくするという事です。
言葉で書くと納得のいく式ですが、計算は大変でした。機械学習は計算が全部コンピュータなので、どうしてその結果が出てきたか良く分からないということがあります。一方、ベイズ統計学は結果の式を見ると何が起きているか分かることが多いです。

まとめ

・線形回帰をベイズ統計学の立場で書き直すことが出来る。
・事前分布を正規分布に取ることで、計算が出来る。
・ベイズ統計学で話を進めると可読性の高い結果を得る事が出来る。
・近いうちに数値実験を追記します。

1. 計算に興味が無い人は次の節は飛ばして、結果と実験の部分を読むことをお勧めします。