作って遊ぶ機械学習。

~基礎的な確率モデルから最新の機械学習技術まで~

線形回帰を1つ1つ改造して変分オートエンコーダ(VAE)を作る

こんばんは.

今日は統計や機械学習において最も基本となる手法である線形回帰から出発し,1つ1つモデルや学習方法に変更を加えていき,最終的に深層学習の分野で非常に良く使われている生成モデルである変分オートエンコーダ(variational auto-encoder,VAE)*1*2を導いていきたいと思います.

2014年に発表されたVAEは,勾配近似を得るためのreparametrization trickや,効率的に潜在変数を近似推論する認識モデル(recognition model, inference model)の導入,確率的勾配法(stochastic gradient descent,SGD)の2重適用など,様々なアイデアが散りばめられている確率的生成モデルです.背景としては,当時ニューラルネットワークを用いて画像を生成するといったアプローチが(CNNを使った識別などと比べて)それほどメジャーではなかったこと,またニューラルネットワークに対して変分推論(variational inference)を適用する事例もそれほど多くなかったことがブームのきっかけになったのではないかと推察しています.

生成モデルや変分推論に詳しくない方は,VAEの論文を読んで「てんこ盛り」感があるように思えるかもしれないですが,1つ1つの要素を分解して考えてみればどのような必然性を元にVAEが構成されているのかを知ることができます.具体的には,線形回帰モデルに対して次のような近似推論の導入とモデルの拡張を施せばVAEが得られます.

個人的には,最先端の「全部載せ」アルゴリズムをただ漫然と受け入れるのではなく,個々の要素の必然性を理解することが機械学習エンジニアの技術力につながってくると思っています.逆に言えば,この記事によって「俺の課題,VAEじゃなくてPCA(主成分分析)で十分じゃん!」みたいになってくれれば大成功です.


線形回帰

Zを入力データセット,Xを出力データセット,Wをこのモデルのパラメータであるとします.これらの同時分布を次のようにモデル化します. f:id:sammy-suyama:20180324235002p:plain ただし,p(Z)はZの事前分布で,各潜在変数z_nに対して次のような等方ガウスを使うことにします.

f:id:sammy-suyama:20180324235019p:plain 観測モデルp_w(X|Z)は次のような線形性を仮定します.

f:id:sammy-suyama:20180324235037p:plain ここでは,計算の簡便性からガウス分布Nを観測分布として採用しており,λはその精度パラメータ(分散の逆数,今回は学習せず固定)です. 式(3)のパラメータWを尤度最大化(最尤推定)で学習することにすると,

f:id:sammy-suyama:20180324235055p:plain と書けます.せっかく設定した事前分布p(Z)ですが,結果的にWの学習に何の影響も与えないことがわかりますね. 尤度が最大となるWは

f:id:sammy-suyama:20180324235110p:plain

を解くことによって次のように解析的に求められます.

f:id:sammy-suyama:20180324235135p:plain

あとは新規の入力データz_testに対する未知の出力値x_testを次のように点として予測するのが一般的です.

f:id:sammy-suyama:20180325000456p:plain

線形次元削減(確率的主成分分析)

さて,先ほどとまったく同じモデルを使い,今度はZが観測できないようなシチュエーションを考えてみます.つまり,Zを潜在変数として取り扱います.この場合,最尤推定を実施するためには次のようにZを周辺化した上でWに関して尤度最大化を行わなければなりません.

f:id:sammy-suyama:20180325000509p:plain 式(9)は残念ながらWに関して解析的に最大値が求められないことが知られています.ここでは次のようなEMアルゴリズムによる繰り返し最適化を用いて,尤度の局所的な最大値を求めることにします*3

<E-step> f:id:sammy-suyama:20180325000522p:plain

<M-step> f:id:sammy-suyama:20180325000536p:plain

iは最適化の繰り返しのインデックスです.EMアルゴリズムの詳しい意味に関してはPRMLなどをご参照ください.

このモデルでは,各E-stepおよびM-stepは解析的に実行することができます.E-stepでは,パラメータWを固定した上でのZの事後分布は

f:id:sammy-suyama:20180325002838p:plain

ガウス分布で表すことができます.一方,M-stepはパラメータWで微分すれば線形回帰とほとんど同じ計算により

f:id:sammy-suyama:20180325001128p:plain

と解析解が求められます.

ところで,このような主成分分析(PCA)でもVAEのように画像を生成したり,次のように欠損値を補完したりすることができます.

f:id:sammy-suyama:20180325005418p:plain

また,モデルに対してちょこっとだけ変更を加えれば次のようなモザイク除去も作ることができます.

f:id:sammy-suyama:20180325001904p:plain

このように,単純な確率的主成分分析を使いこなすだけでも本質的にVAEなどの深層生成モデルでやられていることは実現できます.もちろん,データが大量にある場合や,データが高度に非線形な構造を持っていると思われる場合は,VAEをはじめとしたフレキシブルなモデルの方が性能が良くなります.

ミニバッチ化

先ほどのEMアルゴリズムをミニバッチで学習できるように変更しましょう.これにより,メモリ効率はもちろん,学習の効率性も上がることが知られています.いくつかやり方がありますが,ここではstepwise EM*4というシンプルでメモリ効率の良い手法を使います.

簡単のため,データセットからランダムに1つのデータx_nを取ってくることにします.E-stepでは,パラメータWを固定した上で,1つのデータx_nに対する事後分布のみを推論してあげればよく,

<E-step> f:id:sammy-suyama:20180325000650p:plain

となります.ここで計算した事後分布による期待値を次のようにM-stepのパラメータ更新で使います.

<M-step> f:id:sammy-suyama:20180325000706p:plain

ここでη_iはステップサイズです.イメージとしては,ひとつ前のステップiまでに学習されたパラメータの値W(i)を保ちつつ,ステップi+1で新しい更新量を重み付きで加えてあげる感じです.

また,同様の考え方は完全なベイズ版であるstochastic variational inference*5にも利用されています.

非線形関数の導入

次にモデルに非線形関数を導入してみましょう.ちょっと深層学習っぽくなってきますね.次のように,p(X|Z)に対して,パラメータθに関して微分可能な非線形関数f_gを導入します.

f:id:sammy-suyama:20180325000737p:plain

非線形関数としては,例えば次のように単純にtanhを導入し,

f:id:sammy-suyama:20180325001256p:plain

としても良いですし,非線形関数を再帰的に適用してもっと深い層を考えてあげても良いです(ここではθ={W, b}としています). さて,ここで生じる問題点としては,非線形関数f_gを導入したことにより,E-stepおよびM-stepがそれぞれ解析的に計算できなくなってしまうことです.したがって,それぞれのstepで勾配を利用した最適化を導入することにします. まず,E-stepですが,解析的に簡単な分布(前の例ではガウス分布)が導出できないので,事後分布がガウス分布であると無理やり仮定し(=近似する事後分布のクラスを制限する),その中でKLダイバージェンスがなるべく小さくなるように調整します.つまり,まずz_nに対する近似分布を

f:id:sammy-suyama:20180325000807p:plain

と置きます.ここでφ_n={μ_n,σ_n}は変分パラメータと呼ばれます.さらに,次のように確率的勾配法によりKLダイバージェンスを小さくするように変分パラメータを更新します.

<E-step> f:id:sammy-suyama:20180325000836p:plain α_Eはステップサイズです.実はこの勾配計算もまだ解析的には実行することが出来ません.というのも,式(21)のKLダイバージェンスの項を書き下してみると,

f:id:sammy-suyama:20180325000924p:plain

となり,式(22)の第1項に非線形関数f_gを含んだ複雑な期待値計算が現れてしまいます.

ここでは解析的に積分を実行し期待値を計算することは諦め,z_nを1つサンプルすることにより近似的に期待値を求めることにします.z_nをそのままサンプルしてしまうと,式(22)の第1項目が変分パラメータφ_nの関数でなくなってしまうので,後で変分パラメータの勾配が計算できません.これを解決する方法はいくつかありますが,VAEの元論文で使われているのはreparametrization trickと呼ばれている手法で,次のように変数変換を行ったうえでz_nをサンプリングすることにします.

f:id:sammy-suyama:20180325000941p:plain

こうすることにより,微分対象となる変分パラメータのないq(ε)の分布に対する期待値を取っていることになり,サンプリングで積分を近似した後に変分パラメータφ_nに関して微分ができるようになります.

M-stepはもう少しシンプルで,単純にz_nをサンプルしたあとにθで微分すれば勾配が求まります.

<M-step> f:id:sammy-suyama:20180325001006p:plain

ここで式(26)における負の対数尤度は,ニューラルネットワークにおける誤差関数と等価であり,通常の合成関数の微分で勾配が計算できます(誤差逆伝播法,backprop).

認識モデルの導入

VAEの元論文では,上記のミニバッチを使ったE-stepの更新をより効率化するために,次のようなニューラルネットワークを使った認識モデル(recognition model)*6を提案しています.

f:id:sammy-suyama:20180325001027p:plain

ここではμやσは一時的に置かれている変数に過ぎず,新しく導入した非線形関数f_rの出力になっています.先ほどの例だと,1つのデータ点x_nに対して潜在変数z_nの近似事後分布を1つ1つ最適化しなければならなかったのですが,変分パラメータφ={W,b}を使った非線形関数を使うことにより,異なる複数のデータ点に対しても対応するzの近似事後分布が更新されるようになります.これは,似たような入力xに対しては似たような潜在変数zの事後分布になるはず,というヒューリスティクスから由来しています(amortized inference*7).これにより収束の高速化を狙おうというのがここでの認識モデル導入の狙いです.「変分パラメータが複数のデータ点にわたってシェアされている」と元論文では説明されています.

認識モデルを導入することにより,変分パラメータの最適化にも誤差逆伝播法を適用する必要が出てきます.E-stepにおける式(21)のKLダイバージェンスの項は,今回の認識モデルを用いた場合は次のようになります.

f:id:sammy-suyama:20180325001044p:plain

ここでz_nは先ほどと同様,reparametrization trickを使います.式(29)の最後の項はニューラルネットワーク非線形関数)ですので,通常の誤差逆伝搬によりφに関する勾配が計算できます.


今回は,統計学機械学習における最も基本的な予測モデルである線形回帰に対して1つ1つ変更を施していき,深層生成モデルとして有名な変分オートエンコーダの成り立ちを確認してみました.1つ1つの技術はそれなりに必然性を持って導入されているものであり,逆に言えばデータ数の多くない場合やデータの複雑な非線形構造を抽出する必要がない場合は最も単純な潜在変数モデルである線形次元削減でも十分であることも説明しました.

ちなみに今回の記事はすべてパラメータを確率変数として扱っていない非ベイズアルゴリズムになっています*8.今回紹介したアルゴリズムはあくまで解説目的であり,実際はパラメータに対する正則化項を付け加えたMAP推定版にしたり,パラメータの事後分布も考慮するような完全な近似ベイズ推論の枠組みで実装するのが理想です(議論の大筋は今回と変わりません).

モデルの拡張は実はこれで終わりではありません.前回の記事(深層学習はガウス過程)でも解説しましたが,ニューラルネットワークにおける重みパラメータの数を無限大にしてあげるとガウス過程に一致します.今回のVAEの場合でも,非線形関数f_gの重みパラメータを無限大に増やすことにより,ガウス過程潜在変数モデル(Gaussian process latent variable model, GPLVM)*9と呼ばれるより洗練されたモデルを得ることができます.


線形回帰,潜在変数モデル,変分推論,ベイズニューラルネットの推論等は下記書籍に基本的な解説があります. www.kspub.co.jp

*1:https://arxiv.org/abs/1312.6114

*2:https://arxiv.org/abs/1401.4082

*3:https://rss.onlinelibrary.wiley.com/doi/abs/10.1111/1467-9868.00196

*4:https://cs.stanford.edu/~pliang/papers/online-naacl2009.pdf

*5:http://www.columbia.edu/~jwp2128/Papers/HoffmanBleiWangPaisley2013.pdf

*6:変分推論における事後分布に対する近似分布の表現手段を表しており,推論モデル(inference model),変分モデル(variational model)とも呼ばれます.要は「凝った近似分布」です.

*7:https://web.stanford.edu/~ngoodman/papers/amortized_inference.pdf

*8:したがって元論文で言われているauto-encoding variationa Bayesはベイズではありません.ただし,full Bayes版はappendixにちゃんと載っています.

*9:http://proceedings.mlr.press/v9/titsias10a/titsias10a.pdf

深層学習はガウス過程

おつかれさまです. 僕はあまり深層学習に関して記事を書くことはないのですが,ちょっと気になった論文があったので紹介します.

[1711.00165] Deep Neural Networks as Gaussian Processes

論文はGoogle Brainの研究者らによるもので,NIPS2017 Bayesian Deep Learning WorkshopICLR2018にacceptされています.実は深層学習をガウス過程(Gaussian process)で構築するのはこの論文が初出ではないのですが,論文ではベイズ学習,深層学習,カーネル法を簡略かつ包括的に説明している内容になっているので非常に参考になります.

さて,「深層学習はガウス過程」というのはちょっぴり宣伝的なタイトルにし過ぎてしまったのですが,もう少しだけ正確に論文の要点をまとめると次のようになります.

  • 背景
  • やったこと
    • 深層学習に対するカーネル関数(kernel function)をガウス過程の共分散関数(covariance function)として使用し,深層学習モデルの完全なベイズ推論を1度の行列計算で行えるようにした
    • 効率よく共分散関数を計算できるパイプラインを開発した.
    • 実験ではベイズ推論による予測の不確かさがテストデータに対する予測誤差に相関していることが確認された.

今回の記事では,ガウス過程の基礎から論文の内容までをざっくり説明したいと思います.

ベイズ線形回帰からガウス過程まで

簡単に言うと,ここから紹介するガウス過程とはノンパラメトリックな回帰モデルです. まず始めにベイズ線形回帰から始めてガウス過程の成り立ちを説明しようと思います. 線形回帰モデルでは,実数の出力値{y_n}は,入力値{x_n}{D}次元への特徴量変換を行う関数{\phi()},パラメータ{w}を使って次のように生成されると仮定します. f:id:sammy-suyama:20180113122750p:plain ここでλは観測に対する固定の精度パラメータです. また,パラメータ{w}に仮定する事前分布として次のようなガウス分布を置きます. f:id:sammy-suyama:20180113122833p:plain ここで{Λ}{D}x{D}の精度行列です. 学習用に{N}組の入出力データ{X,Y}が与えられたとき,新規のテスト入力{x}*に対する出力{y}*の予測分布は,次のようにパラメータ{w}を事後分布で周辺化することによって得ることができます. f:id:sammy-suyama:20180113122900p:plain ただし,ガウス分布の平均と精度は次のようになります. f:id:sammy-suyama:20180113122934p:plain 詳細な計算方法に関しては拙著にまったく同じものが載っているのでよかったらご参考ください.

さて,式(4)の予測平均と予測分散を次のように書き直してみます. f:id:sammy-suyama:20180113123003p:plain ただし, f:id:sammy-suyama:20180113123018p:plain と置きました.また,大文字の{\Phi}{D}x{N}の行列であり,各{(d,n)}成分が{phi(x_n)}{d}次元目の値を表しています. ここでは行列のinverse lammaを使って式変形を行っています1. 式(5)および式(6)の結果を見てみると,特徴量関数{\phi}は常に f:id:sammy-suyama:20180113123120p:plain のような形に集約されていることがわかります.{k(x,x')}カーネル関数または共分散関数と呼びます.これはつまり,特徴量抽出を行う関数{\phi}を設計するのではなく,共分散関数{k(x,x')}を直接設計することによっても回帰が行えることを示しています.共分散関数は2つの入力点に関する相関を定義するものであるため,ある意味異なるデータ間の類似度のようなものを設計しているとも言えます.また当然ですが,共分散行列はガウス分布の共分散なので正定値である必要があります.

共分散関数の選択

さて,具体的な共分散関数にはどのようなものがあるのでしょうか.ガウス過程で最もよく使われている共分散関数の1つに,次のような指数2次カーネル(exponentiated quadratic kernel)と呼ばれるものがあります(RBF kernel, squared exponential kernel, gaussian kernelなどと呼ばれることもあります). f:id:sammy-suyama:20180113123054p:plain {\alpha}{\beta}はこの共分散関数のパラメータです.ガウス分布と同じ関数の形をしていますが,これはただ単にたまたまであり,ガウス分布のように正規化されている必要はありません.ちなみにこの共分散関数に対応する特徴量{\phi}というのも実は存在しており,無限次元の特徴量抽出になります2

さて,式(8)で表される共分散関数以外にも多くのものが提案されています.ニューラルネットに関連するものであれば,次のような無限ユニット数を持つERFやReLUといった非線形関数に対応した共分散関数が存在しますf:id:sammy-suyama:20180113123146p:plain また,複数の共分散関数を足したり掛けたりして組み合わせることによって新しい共分散関数を構築することも可能です3

いくつかの(解析的に計算できる)共分散関数に対して,単純な一次元の回帰を行ってみたのが次のアニメーションです.上段はそれぞれの事前分布からサンプルされた関数の例で,下段は順次データ点を与えていった場合の予測分布の推移を示しています. f:id:sammy-suyama:20180113123653g:plain 左から順に,多項式関数(3次関数),RBFカーネルニューラルネット(ERF),ニューラルネット(ReLU),ディープニューラルネット(ReLU)です.最後のディープに対する共分散関数の構成方法に関しては次の節で解説します.

また,この結果を生成するコードは下記Githubに置きました.コアな部分は20行程度ですhttps://github.com/sammy-suyama/MLBlog/blob/master/src/demo_GPDNN.jl

ガウス過程としての深層学習

さて,ここからは本題である深層学習モデルの共分散関数の導出に関して見ていきましょう. まず,非線形変換が1層だけのニューラルネットワークの回帰モデルを考えてみます. f:id:sammy-suyama:20180113123359p:plain {x_k}{k}次元目の入力データの値で,{z_i}{i}番目の出力です.{W}{b}はネットワークのパラメータであり,各要素が次のような1次元の独立なガウス分布に従って生成されていると仮定します. f:id:sammy-suyama:20180113123425p:plain 各パラメータが独立なので,異なる{N}個の{\phi}も独立に値が決定されることになります. ここで,隠れユニットの数{N}を無限にしたらどうなるでしょうか.ここでは{\phi}はもはや何の確率分布に従っているかは不明ですが,各{\phi}は独立であることがわかっているので,無限に足し合わせれば中心極限定理によりガウス分布に近づいていくことになります.最後に足される{{b_i}^1}ガウス分布に従うので,結果として出力{z}ガウス分布に従うことになります. したがって,非線形関数に関する共分散を期待値を使って書けば,{z}は次のような共分散関数を持つガウス過程として表せます. f:id:sammy-suyama:20180113123515p:plain この議論は一般的なL層のモデルに拡張しても成り立ちます.ある{l}{-}{1}層目の出力がガウス過程に従うならば,次の{l}層目の共分散もガウス過程に従うので同様にして共分散関数を計算できるわけです.この関係性を書いてみると, f:id:sammy-suyama:20180113123550p:plain となります.{F}{l}層目の非線形変換{\phi}から決定的に求められます. 具体的にReLUを非線形関数として選んだ場合の再帰式は次のようになります. f:id:sammy-suyama:20180113123614p:plain このカーネルを計算し,あとは一般的なガウス過程の予測の式(5)に入れて計算すれば,基本的には行列演算のみで深層学習のベイズ予測ができることになります.

下記の図は論文で示されている実験結果の1つです. f:id:sammy-suyama:20180113123813p:plain 横軸は予測分布が出力した分散で,縦軸はテストデータにおける二乗誤差です.図からわかるように,予測分散が大きくなるにつれて,テスト誤差も大きくなっていく傾向が見て取れます.すなわち,「予測に自信がない(=分散が大きい)場合は,実際に予測の間違えも大きくなっている」ということになります. これはベイズ学習を深層学習に用いた場合のもっとも重要な利点です.残念ながら現在の機械学習の評価方法は専ら予測誤差を使って精度評価のみを行うという慣習がついてしまっており,不確かさを表現できることの重要性が軽視されがちです.しかし,このような予測の不確かさの定量化は,少ないデータで効率良く学習したり,「過剰な自信」による誤判断を未然に防いだりすることができます.これが(深層学習に限らず)機械学習モデルをベイズ化することが,自動運転などのアプリケーションに重要であると考えられている所以です.また,環境を学習しながら報酬を最大化していくような強化学習などの枠組みでは,このような不確かさの定量化が効率的な探索を行う(explorationとexploitationのトレードオフを取る)ために不可欠になってきます.

論文には他にも計算効率の良い共分散の構成方法や,超パラメータに関する相転移の解析などが含まれており,そちらも大変興味深いです.今回の記事ではガウス過程と深層学習の関係性に注目したかったので割愛します.

所感と今後

ガウス過程で解釈することの利点

深層学習を共分散関数の中で表現し,ガウス過程として解釈する有用性はざっくり挙げるとすれば次のようにまとめられるでしょう.

  1. 原理的に過学習をしない
  2. 予測の不確実性を出力できる
  3. 共分散関数を自動的に最適化・選択できる

1と2はベイズ推論から来る当然の特性です.3に関しては,深層学習におけるネットワークの構造や非線形変換の自動学習を行っていることに対応するでしょう.現在はガウス過程を使って既存の深層学習の超パラメータを調整する方法(ベイズ的最適化)が流行っていますが,皮肉にも深層学習自体をガウス過程にしてしまった方が手っ取り早いということになりますね.

また,これらに付随して,モデルのデザイン性や解釈性に関しても今後は重要になるでしょう.Oxford大学教授でDeepMindのリサーチャーであるTeh先生は,NIPS2017の講演で「解釈のできないパラメータ空間ではなく,関数空間で考えよう」と言っています.

www.youtube.com このように,これからは深層学習をベイジアンノンパラメトリクスの文脈で組みなおす研究が増えてくるんじゃないかと思っています.

ガウス過程で解釈することの課題点

ところで,ガウス過程にしてしまうことで課題点もあります. 1つは,隠れユニットの数を無限にしてしまうと,出力の各次元が統計的に独立になってしまうことです.これにより,ニューラルネットワークに特有の「中間層で特徴量を表現する」みたいなことが原理的にできなくなります.ただし,論文では無限の中間層を持つガウス過程が伝統的な深層学習よりも実験的に良い結果を示しているので,この議論自体に意味があるかは疑問の残るところです.

これに関連する課題として,実はこちらの方が重要なのですが,出力が独立になってししまったことにより,多次元回帰やマルチタスク学習が原理的に行えないことが挙げられます.しかし,後述しますが,ガウス過程の研究では出力の次元間に関して相関を導入できる方法がすでにいくつか存在しています.

関連研究メモ

さて,他にも個人的に気になるガウス過程や深層学習の関連研究を思いつくまま並べておきます.

1.畳み込みモデル,時系列モデル

最新の論文ですが,畳み込みニューラルネット(convolutional neural network)のような構造をガウス過程に取り込む研究があります.

[1709.01894] Convolutional Gaussian Processes

また,LSTM(Long short-term memory)の出力をガウス過程の入力に使うような話もあります.

[1610.08936] Learning Scalable Deep Kernels with Recurrent Structure

2.カーネル関数の最適化や自動選択

興味深い事例として,与えられたデータに対してガウス過程のカーネル関数(共分散関数)を自動探索し,解析結果を自然言語で説明するようなシステムが考案されています.

Automatic Construction and Natural-Language Description of Nonparametric Regression Models

3.能動学習および強化学習

ベイズ推論を使えば不確実性に基づいて環境を探索できるので,直接強化学習の問題に応用することができます.

PILCO: A Model-Based and Data-Efficient Approach to Policy Search

4.マルチタスク学習

ガウス過程の出力ベクトルの次元間に相関を持たせる方法はいくつか提案されています.

Efficient Multioutput Gaussian Processes through Variational Inducing Kernels

5.潜在変数モデル

ガウス過程にはGPLVM(Gaussian process latent variable models)と呼ばれる潜在変数モデル版も存在します.GPLVMに今回のようなdeepなカーネルを使えば,VAE(variational auto encoder)などとは別の深層生成モデルが作れることになりそうです.

Bayesian Gaussian Process Latent Variable Model

また,通常のGPLVMをスタックする(GPの出力を別のGPの潜在的な入力にする)ことによって,deepなガウス過程を構成することもできます.

Deep Gaussian Processes

このような構成方法であれば,低層で抽出された潜在構造を次の層へシェアすることができます. 論文では「150個のデータに対して5層が最適」のような推定もできており,小規模データでも過学習しないベイズの強みが理解できますね.

6.スケーラビリティ

ガウス過程の最大の課題は大規模データに対するスケーラビリティです.まともに予測分布を計算しようとすると,データ数をNとしたときO(N3)の計算時間がかかってしまうため,普通にやるとビッグデータの時代には使い物になりません.幸いなことに,これまでに数多くの近似推論手法が開発されてきています.中でも有望なのが本ブログでも何度か紹介している変分推論法(variational inference)です.下記の論文で変分法を用いてガウス過程をスケーラブルにするテクニックが網羅的に紹介されています.

Scalable Gaussian Process Inference using Variational Methods

今後も深層学習と近似ベイズ推論の両研究分野で技術的な輸出入が起こると思います.いろいろな手法の理論的な一致や拡張・一般化が見られると面白そうですね.

7.ガウス過程以外を使う

例えばStudentのt過程は,ガウス過程と同じような特性を持ち合わせていながら,外れ値に頑強であるという特徴を持つので,これをディープなモデルに対して使ってみても良いかもしれません.

Student-t Processes as Alternatives to Gaussian Processes

基礎を知りたい方

最後になってしまって申し訳ないですが,今回の記事の内容を理解するために必要な基礎理論を解説した教科書・資料や,古典的な論文等を紹介しておきます.

Gaussian Process for Machine Learning

http://www.gaussianprocess.org/gpml/

Carl Edward Rasumussen先生によるガウス過程の教科書の決定版です. 2006年なのでちょっと古くなってきてしまいましたが,ガウス過程による回帰・分類はもちろん,共分散関数の構成法,モデル選択,大量データに対する近似学習法まで網羅しています.SVMなどの類似手法との関係性も解説しています.

Bayesian Learning for Neural Networks

http://www.springer.com/jp/book/9780387947242

1996年に執筆されたRadford Neal先生の伝説的論文ですが,高い先見性と深い洞察に驚かされます.ベイズニューラルネットハミルトニアンモンテカルロによる学習のほか,本記事で解説したニューラルネットガウス過程の関係性もここで解説されています.事実,近年の機械学習におけるガウス過程のブームはここから始まりました.また,無限に深くした場合のニューラルネットの挙動に関しても考察があります.

ガウス過程の基礎

日本語の解説スライドはこちらです.非常にわかりやすくまとめられています.

松井先生:

http://www.ism.ac.jp/~daichi/lectures/H26-GaussianProcess/gp-lecture1-matsui.pdf

持橋先生:

http://www.ism.ac.jp/~daichi/lectures/H26-GaussianProcess/gp-lecture2-daichi.pdf

ベイズ学習の基礎

拙著です.

ベイズ推論による機械学習入門 機械学習スタートアップシリーズ | 書籍情報 | 株式会社 講談社サイエンティフィクwww.kspub.co.jp

データに欠損がある場合の教師あり学習

おはようございます.

今回は教師あり学習モデルを題材に,入力データが欠損している場合のベイズ流の対処法を解説します.ベイズモデルというと,たいていの場合は事前分布の設定の仕方云々だとか,過学習を抑制できるだとかに議論が注目されがちですが,個人的には,パラメータや潜在変数を推論することとまったく同じ枠組みで欠損値も同時に推論できることが,実用上非常に便利なベイズの特性だと思っています.

 

データの欠損部分の取扱い

データに欠損部分が存在することはよくあります.センサーデータを解析する際は,ネットワークの状況やデバイスの不具合によってデータの一部が欠けた状態で上がってくることがあります.スマホから複数種類のデータを集めるといった状況を考えてみると,例えば加速度センサーの値は継続的に取得できたとしていても,GPSの位置情報はほとんど上がってこないといった場合もあるかと思います.また,何かしらのユーザーのアンケートデータを利用した予測を行う場合は,収集したアンケートに未記入項目が出てしまうのはごく自然でしょう.

ナイーブな対処方法としては次の2つ考えられます.1つめとしては,あるデータの一部が欠損している場合は,そのデータごと解析の対称から外してしまうことです.しかし,これは貴重なデータを使わずに捨ててしまっていることになるので,よほどデータ量が潤沢にない限りは非常にもったいないやり方になります.また,継続的に観測される時系列データなどを取り扱う場合には,そもそもうかつにデータを削除することすらできません.2つめの対処法としては,予測アルゴリズムを適用する前に,前処理として線形補間や平均値の当てはめなどを行って欠損を埋めてしまうことです.しかし,こちらの方法も問題があり,前処理で欠損を埋めてしまうと,後段の予測アルゴリズムは受け取ったデータの中の実際に観測された部分と補間された部分の違いが区別できないため,誤った推定結果を出してしまうことになります*1

ベイズの枠組みで確率的な推論を行えば,データを使った予測と欠損値の補間を同時に行うことができます.補間値に対する不確実性も見積もることもできるため,誤った補間による予測性能の劣化や過学習も基本的には起きません.

 

ベイズロジスティック回帰

さて,ここではベイズロジスティック回帰を例にいわゆる「教師あり学習」のモデルをおさらいしたいと思います*2.ロジスティック回帰は,多次元の実数値入力データを2値に分類するようなモデルです.入力データ(説明変数)をX,出力データ(目的変数)をY,さらにパラメータをwとすれば,N個のデータに対する同時分布は次のようにモデル化されます*3

f:id:sammy-suyama:20170830214813p:plain

ただし,式(1)のそれぞれの分布は次のようになっています.

f:id:sammy-suyama:20170830214830p:plain

式(2)のσはシグモイド関数で,中身の実数値を0から1までの間に押し込める役割を担っています.式(3)ではwの事前分布にガウス分布を仮定しています.

このモデルから,下記のパラメータの事後分布に関する特性(平均や分散など)を得ることが,ベイズロジスティック回帰における「学習」にあたります.

f:id:sammy-suyama:20170830214850p:plain

式(4)の事後分布はロジスティック回帰の場合では解析可能な表現形式が得られません.ですので,変分ベイズによって何かしらのシンプルな分布で近似をするか,MCMCを使って大量のサンプルを取得することによって平均や分散などを調べる必要があります.

 

入力データに欠損値がある場合

ここからが本題です.今回は入力データXの一部を,パラメータwと同じようなやり方で推論する必要があるので,次のようにXに対しても事前分布を置いてあげる必要があります*4

f:id:sammy-suyama:20170830215000p:plain

また,ここでは,入力データセットXの任意の部分が欠損しているような状況を考えることにします.あるn番めのデータx_nは,要素の一部が欠損していてもいいですし,まるごと全部無くなっている状態でもOKです.データセットをX={Xo,Xm}のように,観測部分Xoと欠損部分Xmに分解して書けば,求めたい事後分布は次のようになります.

f:id:sammy-suyama:20170830215059p:plain

あとは欠損値がなかった場合と同じように,何かしらの近似推論手法を使って式(7)の事後分布の特性を調べてやればOKです.

 

実験

さて,簡単な2次元のトイデータを使って欠損値補間付きベイズロジスティック回帰の動作を確認してみます.ここでは入力データの次元数をD=2,データ数をN=30とします.また,入力データはそれぞれの要素が50%の割合で欠損しています.今回はスケールの小さい簡単な問題ですので,MCMCの1つであるMetropolis-Hastings法を使用して学習しています.

2クラス分類を行うと,次のような「平均確率の等高線」を描くことができます.

f:id:sammy-suyama:20170830023317p:plain

(左図)すべての次元がそろっている場合のデータのみを使った予測結果になります.今回の場合はN=10個のみを使用し,残り20個は捨ててしまった上で学習しています.

(中央図)今回の欠損値補間の方法を用いて,欠損値(×印)を補間推定しながら予測を行った結果です.

(右図)欠損が一切なかった場合の予測結果で,いわば今回の「正解」の予測分布になります.

結果から分かるように,左図では欠損のあるデータを捨ててしまっているので,右図の正解とはほど遠い予測結果になってしまっています.中央図ではx印の点が欠損値を持つデータの推定位置(平均)を表しており,薄い棒はサンプルから計算された推定位置の偏差を表しています.青・赤それぞれのクラスがなんとなくまとまるように配置されている様子が分かりますね.中央図と右図はかなり近い形状の等高線(予測確率)になっており,欠損のあるデータをうまく利活用した方が,データが完全に観測された場合の予測に近づいている様子がわかります

 

ランダムではない欠損(追記)

データの持つ値自体と欠損の発生とが因果関係を持つと考えられる場合は,その関係性も確率モデルに組み込むことによって対処できます.これには例えば,「センサーから観測される値が一定の水準を超えると欠損が多くなる」や,「推薦システムにおいて,商品に満足していないユーザーほど評価を行わない」などのケースが考えられます.ベイズでは,このような欠損が発生するプロセスも同時にモデル化することによって対処するのが一般的だと思います.参考として,推薦システムでは次のような文献もあります.

Probabilistic matrix factorization with non-random missing data

 

まとめ

さて,今回の話を簡単にまとめてみます.

1,データは使えるだけ使った方が良い.

データを捨てるのはもったいないですアルゴリズムの実装コストや計算コストなどともよく相談する必要がありますが,なるべくなら余計な前処理などせず,上手に単一のモデルから推論できた方が望ましいでしょう.ただし,データの欠損値補間をもっと真剣にやるのであれば,今回のような教師ありモデルを使わずに,生成モデルによってしっかりXをモデル化した方が良いかもしれません.また,問題によっては欠損が発生するメカニズムも同時にモデル化した方がより洗練されたモデルになる可能性もあるでしょう.

2,ベイズの枠組みでは,欠損値もパラメータと同様に確率推論を行う.

推定したい値はすべて確率変数として扱う」のがベイズの基本です.したがって,教師あり学習を普通に使うときは存在を意識する必要はありませんでしたが,入力の欠損値を推論したい場合は今回のように事前分布を明示的に導入することになります.また,欠損値を確率推論できるようにしておけば,前処理や例外処理をあれこれ実装する手間もなくなります.今回のアルゴリズムであれば,極端な場合入力Xがすべて欠損だったとしても「うまく予測できませんでした」という予測結果が返ってくるだけで,バグになることはありません*5

3,欠損値の補間を行っても過学習はしない.

ベイズにはそもそも「過学習」という概念すらないので,これはかなりナンセンスな言い方ではあります.仮に,ベイズの代わりに最尤推定を用いて欠損値を推定した場合,尤度を向上させるために際限なく「都合の良い」Xmを求めてしまいます.これは推定というよりも「データの捏造」に近いため,当然ながら新規データに対する汎化性能は期待できません.

 

今回の実験を行ったソースコード(Julia実装)は下記にあります.(logistic_regression_intrp.jl)

MLBlog/src at master · sammy-suyama/MLBlog · GitHub

 

今回の記事がよくわからん!という方には,次のような入門書もあります.

books.rakuten.co.jp

*1:僕の経験上最悪のデータは,欠損部分がすでに0で埋められているというものでした.どこが欠損していたかの情報もなかったため,観測値として本当に0なのか,欠損のため0なのか,まったく検討がつきませんでした.

*2:ちなみに,個人的には「教師あり」だとか「教師なし」だとかっていう区別はあんまり本質的ではないと思っています.

*3:ちなみに,個人的には「説明変数」だとか「目的変数」だとかっていう区別はあんまり本質的ではないと思っています. 

*4:欠損値がない場合でもXに事前分布を置いても構いませんが,Xがすべて完全に与えられている状況では,結果としてXの事前分布はwの事後分布やyの予測には一切の影響を与えないことが分かります(グラフィカルモデルの記事を参照ください).

*5:より正確に言うと,事前分布の情報のみを使った大雑把な予測を出力してくれます.

変分ベイズを使って変化点検知をしてみる

おつかれさまです.今回は簡単なメッセージ受信数のデータを使って,変分ベイズによる変化点検知をやってみたいと思います.なお,今回使うデータやモデルは下記のPyMCの入門書を参考にしています*1.

Pythonで体験するベイズ推論-PyMCによるMCMC入門-キャメロン-デビッドソン-ピロン

この本では推論にMCMCを使っていますが,今回はモデルはそのまま流用し,同じことを実現する変分ベイズによる近似推論を導いてみます. 一般的には変分ベイズの方が計算が高速なので,MCMCの性能に満足できない場合などは変分ベイズは良い代替手法になり得ます.また,今回紹介する例は,過去に紹介した混合モデルを使った例よりも比較的シンプルですので,変分ベイズの入門題材にはちょうど良いんじゃないかと思っています.

MCMCによる変化点検知

・メッセージ受信データ

PyMC本では次のような「ある期間で受信したメール数」を題材にMCMCを解説しています.

f:id:sammy-suyama:20170819131110p:plain

データをよーく見てみると,非常に微妙ではありますが,経過日数の後半の方で受信メッセージ数が少し多くなっているような傾向が見えます.この変化点をベイズモデリングによって見つけるのが目標です.

・モデル

n日目のメッセージ受信数Cnはカウントデータなので,次のようなポアソン分布を使ってモデル化するのが良いでしょう.

f:id:sammy-suyama:20170819164730p:plain:w180

ここで,λはポアソン分布の平均パラメータです.また,次のようにある{\tau}日目を境にこの平均パラメータが変化することを仮定します.

f:id:sammy-suyama:20170819164811p:plain:w220

それぞれのパラメータλ1およびλ2はポアソン分布の共役事前分布であるガンマ分布を使ってモデル化します*2

f:id:sammy-suyama:20170819164827p:plain:w200

PyMC本ではデータの平均値を使って超パラメータを設定していますが,あんまりおすすめしません. 僕は適当にa,bの値を設定した後にモデルからデータをサンプルしてみて,なんとなくスケール観が合ってそうな値(a=2.0, b=0.1)に設定しておきました.

最後に,変化点は次のように全部でN日の中から等確率で選ばれると仮定します.

f:id:sammy-suyama:20170819180159p:plain:w200

MCMCによる推論

詳しくは本やJupyter Notebookの内容を参考にしてほしいのですが,モデル(model)をPyMCで構築した後に次のようなコードを書くと事後分布からのサンプルが得られます.

iters = 40000
burn = 10000
mcmc = pm.MCMC(model)
mcmc.sample(iters, burn)

mcmc.sampleを叩いたあと,数秒待つと,各変数のサンプルが取り出せます.

lambda_1_samples = mcmc.trace("lambda_1")[:]
lambda_2_samples = mcmc.trace("lambda_2")[:]
tau_samples = mcmc.trace("tau")[:]

得られたサンプルを元に各種期待値を計算すると,次のようになりました. f:id:sammy-suyama:20170819140519p:plain 上図ではサンプルから計算される各日のλの期待値をプロットしています.下図では,各日におけるτの近似事後確率を示しています. 確かに,45日目あたりを境に,メッセージ受信数の傾向が微増していることが示唆されていますね.ちなみに,iters=5000より小さい値を設定すると,あんまり綺麗な分布は得られませんでした.

変分ベイズによる変化点検知

・変分ベイズ(平均場近似版)の概要

平均場近似による変分ベイズの導出方法を簡単におさらいしましょう.データXを観測したあとの潜在変数(パラメータ含む)Z1,Z2の事後分布を次のように近似するとします.

f:id:sammy-suyama:20170819164956p:plain:w300

Z1,Z2の事後分布を同時分布として表現することは諦め,よりシンプルな独立の分布qで近似しようというのがアイデアです.近似分布qを真の分布に「似せる」ために,次のようなKLダイバージェンスをqに関して最小化します.

f:id:sammy-suyama:20170819175656p:plain:w320

詳しくはこちらの記事に書いてありますが,結果としては次のような式を繰り返し計算すればKLダイバージェンスが徐々に小さくなっていくことになります.

f:id:sammy-suyama:20170819192537p:plain:w440

今回はこの結果をそのまま使って,変分ベイズアルゴリズムを導出します.

・更新アルゴリズムの導出

さて,先ほどのメッセージ受信数の変化モデルから,変分ベイズを導いてみることにしましょう.次のように,少しだけモデルを計算しやすく書き直してみます.

f:id:sammy-suyama:20170819175915p:plain:w800

ここで,δ()は中身が真の場合は1を返し,そうでない場合は0を返すような関数です.τの値によってデータがサンプルされる分布が切り替わるイメージですね.

次に,このモデルの事後分布の分解を次のように仮定します.

f:id:sammy-suyama:20170819170354p:plain:w350

ここまで決めてしまえば,あとは機械的に計算をするだけです.λ1の近似事後分布は,

f:id:sammy-suyama:20170819170437p:plain:w550

となるので,

f:id:sammy-suyama:20170819170547p:plain:w270

f:id:sammy-suyama:20170819170654p:plain:w350

とガンマ分布で表現出来ます.λ2もまったく同様に,

f:id:sammy-suyama:20170819170720p:plain:w270

f:id:sammy-suyama:20170819170741p:plain:w350

となります. 次にτの近似事後分布は,

f:id:sammy-suyama:20170819170917p:plain:w520

となるので,次のような離散分布になります.

f:id:sammy-suyama:20170819170949p:plain:w470

また,近似事後分布がガンマ分布と離散分布(カテゴリ分布)であることがわかったので,途中計算に必要な期待値も次のように求められます.

f:id:sammy-suyama:20170819181549p:plain:w320

・動かしてみる

さて,先ほどのアルゴリズムを使って事後分布を推定した結果は次のようになります, f:id:sammy-suyama:20170819194208p:plain PyMCで十分なサンプル数で実行した場合とほとんど同じ結果になりましたね.ただ,変分ベイズの場合はこの近似分布を得るまでにMAXITER=5程度でほぼ完全に収束し,計算時間も一瞬でした.

せっかくなので,適当に作ったトイデータで同じように推論してみます. f:id:sammy-suyama:20170819194246p:plain 上図からわかるように,変化点がはっきり見えているようなデータなので,下図ではアルゴリズムも確率ほぼ1.0という強い自信を持って変化日が50日目だと言っていますね.

データを作り直してもう1回やってみましょう. f:id:sammy-suyama:20170819194505p:plain このデータはちょっと意地悪だったかもしれません.データからはまったく変化点を見ることが出来ません. 下図の結果では「どこかが変化日だったのかわかりません」と言っています.なかなか良い答えです.無理くりどこかを予測結果として出されるより,よっぽど紳士的ですね*3

Juliaで実装したソースコードは下記に置いてあります.(change_point.jl)

MLBlog/src at master · sammy-suyama/MLBlog · GitHub

ということで,本日は以上です.

*1:英語になっちゃいますが,本の内容とほぼ同じJupyter Notebookがあります. https://github.com/CamDavidsonPilon/Probabilistic-Programming-and-Bayesian-Methods-for-Hackers

*2:PyMC本では指数分布を使っていますが,ガンマ分布でa=1とおけば指数分布に一致します.

*3:今回のモデルは,「変化点は確実に1つあるんだけど,どこかわからない」という前提のもとで推論をする話になっています.最後の結果は「変化点はありませんでした」とは違うことに注意してください.

ベイズ学習の勉強に参考になる資料

おつかれさまです.今回はタイトルの通り,ベイズ学習を勉強する上で参考になる教科書やウェブの資料,論文等を紹介したいと思います.

 

ベイズ学習は確率推論に基づいた機械学習アルゴリズムの構築論です.ベイズ学習を使えば,あらゆる形式のデータに対して,未観測値の予測や隠れた構造を発見するための統一的なアプローチをとることができるため,特に現代の機械学習アルゴリズムを深く理解し使いこなすためには必須の方法論になっています.


1, ベイズ学習の位置づけ

まず,データサイエンスにおける他の方法論と,ベイズ学習の位置づけを簡単に俯瞰したいと思います.

 

僕の知る限り,ベイズ学習は1990年代ごろから登場してきた機械学習の方法論で,既存の学習アルゴリズム確率モデルによって構築し,学習や予測の計算をすべて確率推論(条件付き分布と周辺分布の計算)で解決してしまおうという試みによってはじまりました.これにより,従来の学習アルゴリズムの問題点だった過学習,次元の呪いなどをうまく解決できる(あるいは,問題ですらなかった)ことがわかりました.また,既存の手法がベイズ学習の極めて特別な場合であるとして再定義出来ることが多く,k-means,サポートベクターマシンニューラルネットワーク,主成分分析などなど,数え上げればキリがないですが,これらはすべて確率モデルとして再構築でき,従来の学習方法のほとんどは対応する確率モデルに対する特別な近似推論であることが示せます.

 

ちなみに,最近では深層学習の各種の問題点(大量のデータを必要とする,過学習する,不確実性をハンドル出来ない,ニセのデータに騙される)などをベイズ学習の手法でエレガントに解決する方法が提案され始めているほか,深層学習の各種の計算テクニック(ドロップアウトなど)も実はベイズ学習の近似推論計算であったりすることが発見されています.また,次の動画が参考になりますが,深層学習はベイジアンの目からは「高次元データの多層構造による表現を学習する方法」とされており,グラフィカルモデル*1で表現可能なモデルの一つであるという認識になっています.

www.youtube.com

 

さて,すべての未知の値の予測を確率計算のみで行ってしまおうというのがいわゆるベイズ主義とされていますが*2,その反対は頻度主義と呼ばれているようです.したがって,データ解析の分野を俯瞰すれば,「頻度主義 or ベイズ主義」×「統計学 or 機械学習」の組み合わせでおおよそコミュニティが分類できるようです*3統計学機械学習の違いは微妙ですが,機械学習の場合は画像や音声などを含めたより複雑な構造のデータを解析対象にする傾向があり,それに伴ってコンピュータを使った効率的な計算の実行に焦点が置かれているようです.頻度主義,ベイズ主義の違いをここでは深入りして説明することはしませんが,もし興味があれば次の動画が参考になると思います.

www.youtube.com

 

次にベイズ学習に関連する資料をいくつか挙げていきますが,参考書(PRMLとか)によってはベイズ主義と頻度主義がごちゃごちゃに混ざっている場合があるので,内容を理解するためには十分注意した方が良いでしょう.

 

2, ベイズ学習を勉強するためのお勧め資料

前置きが長くなってしまいましたが,ここでは主にベイズ学習(ベイズ主義機械学習)を勉強する際に参考になる資料を紹介します.

 

PRML

Pattern Recognition and Machine Learning | Christopher Bishop | Springer

Chris Bishopによるベイズ学習の決定版の教科書です.とはいえ,機械学習全体をある程度俯瞰するためにも作られたためか,ベイズではない手法も半分くらい混じっています.次に挙げる章が特に重要です.

  • 1,2章の確率計算に関する基本
  • 3,4章の回帰・識別の基本
  • 8章のグラフィカルモデル
  • 9章の混合モデル
  • 10,11章の近似推論・サンプリング手法

10章の変分推論が理解できれば,12,13章の各種潜在変数モデルを参考にするよりも,後述のBealの博士論文の方が良いと思います.また,ガウス過程(カーネル)の話もRasmussenのテキストの方が詳しいです.

 

・BDA

Home page for the book, "Bayesian Data Analysis"

Andrew Gelmanらによるベイズ統計の定番書籍です.統計学の本ですが,各種の確率分布の使い方が解説されているのはもちろん,後半の章では次のような機械学習に深く関連する話題がたくさんあります.

  • 12章のMCMC,13章の確率分布の近似
  • 21章のガウス過程,23章のディリクレ過程

  • etc...

 

・Machine Learning: A Probabilistic Perspective

Machine Learning | The MIT Press

Kevin Murphyによる,現在出版されている中でも最も網羅的な機械学習の解説書です.ページ数が1000を越えているので,これを使って勉強しようっていう人はあんまりいないと思います.リファレンス的に使うのが良く,僕も崩壊型ギブスサンプリングの解説記事を書くときとかはこの本を参考にしました.

 

・BRML

David Barber : Brml - Home Page browse

Bayesian Reasoning and Machine Learningの略です.なぜかウェブでフルバージョンのPDFがダウンロード出来ます.

 

・GPML

Gaussian Processes for Machine Learning: Book webpage

Carl Edward Rasmussenらによるガウス過程の解説書です.

 

The Matrix Cookbook

The Matrix Cookbook

ベイズとは直接関係ないですが,行列の展開や微分計算などの便利な公式がたくさん載っています.

 

・Variational Algorithms for Approximate Bayesian Inference

Matthew J. Beal - Thesis: Matthew J. Beal, Variational Algorithms for Approximate Bayesian Inference

隠れマルコフモデル等に対する変分推論や初期の平均場近似の使い方の解説記事として良くまとまっています. 

 

・Introduction to Probabilistic Topic Models

http://menome.com/wp/wp-content/uploads/2014/12/Blei2011.pdf

トピックモデルのみの短い解説記事ですが,実際の課題に対してどのように確率モデルを構築・拡張するのか簡単に俯瞰できる内容になっています.

 

・Nonparametric Bayes Tutorial

http://stat.columbia.edu/~porbanz/npb-tutorial.html

ベイジアンノンパラメトリクスに関する解説記事・論文が網羅されています.

 

・Probabilistic Modelling and Bayesian Inference

http://mlss.tuebingen.mpg.de/2013/2013/Ghahramani_slides1.pdf

ベイズ学習の解説スライドで,基本的な思想や利点などが説明されています.

 

まとめ

以上の教科書や解説記事は,それぞれの分野のパイオニアたちが執筆した極めて品質の高い資料であるため,アルゴリズムを開発したり調べ物をする際にはとても参考になると思います.他にも秀逸な記事がありましたらご提案いただけたらと思います.

ただし,ここまで色々挙げといてあれですが,最も大事なことはここで挙げた教科書等を100%完璧に理解してやろうなどと思わないことです.正直なところ,僕も紹介した参考文献の10%~20%くらいしかちゃんと読んでいない気がします.最も効率的なやり方は,業務や研究活動で実際に直面している課題に合わせて,基礎内容の勉強,応用事例の調査,実装と動作の確認をバランス良く繰り返していくことです.そのような実務的なプロセスを通すことによって,アルゴリズム開発者の抱える多くの「がしたい!」にとことん応えてくれるベイズ学習の包容力に気づかされることになると思います.

日本語で書かれた参考文献がほしい!という方には,次のような入門書もあります.

books.rakuten.co.jp

*1:参考:グラフィカルモデルによる確率モデル設計の基本 - 作って遊ぶ機械学習。

*2:単純にベイズの定理を使うことが「ベイズ主義」ではないので注意してください.例えばナイーブベイズとかベイジアンネットワークは,ベイズ主義的な方法で扱われないことが多いようです.

*3:あくまで集団としてそのような傾向があるというだけであり,技術的な交流に壁はありません.

実践!ベイズ学習

今回は、実問題を解くためのベイズ学習による機械学習アルゴリズムの構築方法に関してざっくり俯瞰してみたいと思います。ここで解説するフローは僕が実問題にアプローチする際に意識しているものですが、おそらくこれはベイズ学習のみならず、広く一般的な統計モデリング機械学習の問題解決にも適用できると思います。

 

 <アルゴリズムの開発フロー>

f:id:sammy-suyama:20161219140751p:plainあまりファンシーな図でなくて申し訳ないですが、これから1つ1つの項目と各々の遷移に関して説明していきます。

 

1、データ・課題の整理をする

まず、機械学習を使って解きたい問題や実現したいサービスを定義してみます。データはあるんだけど何をして良いかわからない、という場合もあるかもしれませんが、そういうときでもとりあえず何かしらの目標を仮置きしてみるのが良いかと思います。基本的に機械学習でできることは「見えない情報の予測」であると考えればアイデアが発想しやすいかもしれません。未来の株価の予測、画像や音声の判別、欠損データの補間、異常値の特定など、これらはすべて未知の事象に対する予測問題として定義することができます。*1

課題が決まれば、次第に必要なデータは明らかになってきます。例えば、明日の東京都全体の電力需要を予測したいのであれば、過去の需要データに加え、その日の天気や曜日の情報(平日or休日)なども予測に役に立つでしょうし、その日に起こる予定のイベントとかも考慮しておいた方が良いかもしれません。この辺りはデータの収集コストと相談する必要もあるかと思います。また、データそのものの収集に伴って、データに関する周辺的な知識(よく知られた法則、物理的な制約など)も色々仕入れておけば、後のモデル構築の段階に役立てられる可能性が高いです。
また、集めたデータの形式や粒度がバラバラだったりする場合はこの時点で揃えておくのが良いかもしれません。ただし、欠損値の補間や異常値の除去、データサイズの補正などのいわゆる「前処理」をここで行ってしまうと、後段のアルゴリズムに対する情報欠損に繋がる可能性があります。手間とコストを十分に考慮する必要がありますが、理想的には、これらの処理はモデルと推論(2および3)で行う方が良いです。

 

2、モデルを構築する

f:id:sammy-suyama:20161219202632p:plain

ここでは確率モデルP(X, Θ)の構築を行います(Xがデータで、Θが学習したいパラメータなどの未観測変数)。基本的なアプローチとしては、「今手元にあるデータXは一体どういうプロセスを経て生成されたのか?*2」ということを念頭に置き、基本的な確率分布を組み合わせてモデルを構築します。

持っているデータの種類によってもモデル構築の仕方が大きく変わってきます。例えばラベルデータを十分に持っているのであれば、既存の教師ありの識別モデル(線形回帰、ロジスティック回帰、ガウス過程など)をそのまま使うのでも良いかもしれません。*3

最も大事なことは、この段階でデータをよく観察し、普遍的な性質や特徴を整理することです。そのような知見をどれだけモデルに組み込むことが出来るかが、未知の値を予測するにあたって非常に重要になってきます。ちなみに、生データに対して何かしらの特徴量抽出を行うやり方も手軽ですが、このような段階を踏んだ情報処理の過程にしてしまうと、その都度情報欠損が起きてしまう可能性があることに注意してください。これを防ぐには、特徴量抽出のプロセスも確率モデルとして組み込むのが理想的です。

さらに、確率モデルを構築した後に必ずやってほしいことは、モデルP(X, Θ)から仮想的にデータXをサンプル(シミュレート)してみることです。このサンプルが、我々が実データを学習させる前に持っている「仮説」を具体的に表していることになります。例えば、データXとして成人男性の身長を仮定しているのに、モデルからサンプルしてみた値が0 cm近辺にへばりついたちっさい値しか出てこないとかいう場合は、明らかにモデル自体か事前分布の設定等が誤っています。モデルからのサンプルが実際に発生し得るデータをちゃんとカバーできそうかどうか、次の推論導出に進む前にチェックしておくのが大事です(「作ったモデルでもっと遊んでね」と僕は表現します)。

 

3、事後分布を計算する(推論を実行する)

前ステップで構築したモデルをもとに、事後分布P(Θ|X)を評価します。

伝統的な確率推論に対して、機械学習機械学習たらしめているのはおそらく取り扱う確率モデルの複雑さにあると思います。多くの問題では事後分布が解析的に得られず、推論アルゴリズムを導いてコンピュータ上で実行することになります。具体的にはMCMCや変分近似などの近似推論アルゴリズムを導出してPythonやJulia等の適当な言語で実装するほか、モデルがそれほど複雑でないのであればStanなどのツールを使って自動的に推論してもらうという手もあります。
また、多くの機械学習の課題では、ただパラメータの事後分布を計算するだけを目標とするということはあまりないでしょう。例えば未来の値X*を予測したい場合は、学習された事後分布を使って予測分布P(X*|X)=ΣP(X*, Θ|X)を評価することになると思います。あるいは、クラスタリングなどの「観測することのできない潜在的な値を推定する」問題では、潜在変数モデルP(X,Z,Θ)に対する潜在変数の事後分布P(Z|X)を計算することになります。

ところで、このステップでは多くのバグに苦しむことになります。手で導出した推論アルゴリズムがきちんと動作しているか確認する方法はいくつかあり、一番のオススメとしては、いきなり実データに挑戦せずに、学習前のモデルから仮想的にサンプルしたデータを改めて訓練データとして使って推論させてみることです。このようにすればデータに対するモデルは100%正しいことが保証されるので、推論アルゴリズムの導出式や実装のバグのチェックのみに集中することできます。また他には、例えば変分ベイズ法などの特定の方法では、変分下限と呼ばれる値を評価することにより(ある程度は)動作の正当性を確認できます。

モデル構築および近似推論に関する関連記事は例えば次のようなものがあります。

グラフィカルモデルによる確率モデル設計の基本 - 作って遊ぶ機械学習。

ベイズ混合モデルにおける近似推論① ~変分近似~ - 作って遊ぶ機械学習。 

 

4、結果の評価を行う

f:id:sammy-suyama:20161219201611p:plain

作ったアルゴリズムが所望の動作を実現しているか、あるいは改良がうまくいっているかを評価します。モデル自体を評価するような指標(周辺尤度、BICAICなど)もありますが、基本的には今解いている課題に即した評価手法を使うのが自然かと思います。例えば連続値の予測であれば二乗誤差で評価するのが(ベストかどうかはともかく)簡単ですし、低頻度のイベントを検知するような課題であればF値を使うのが良いかもしれません。ただし、結果の1%や2%を競うような数値評価至上主義*4に陥らないように注意してください。また、見落としがちではありますが、実際のところ機械学習を使ったサービスなどでは視覚的に結果の良し悪しを確認したり、自分でサービスを使ってみて感触を確かめる、というのも重要な評価手段の1つになります。

それに伴って、アルゴリズムの計算効率(メモリ量や計算速度など)も合わせて評価するのが重要です。というのも、最適化やサンプリングに基づく多くの機械学習アルゴリズムは、時間をかければかけるほど最終的な性能が高くなるものが多く、計算コストを無視した推定精度のみの評価はほとんどの場合では不十分になるためです。

また、機械学習の課題で訓練データとテストデータを分けて評価するのは必須だと思われます(クロスバリデーションなど)。これは過学習をしていないかチェックするための超基本手段なのですが、意外にちゃんとやっていない人が多くてびっくりです。ちなみに「ベイズ学習はそもそも過学習をしないので、データを分けなくても評価できる」という主張もありますが、現実的に多くの場合では近似アルゴリズムを推論に使うことになるので、オーバーフィットやアンダーフィットに近しい現象も起こり得ます。なるべく本番環境に近い状態で評価するためには、やはりテストデータに対する課題依存の評価指標を設定するのが無難かと思います。

確率モデルを使った機械学習アルゴリズムでは、得られた事後分布から仮想的にデータをサンプルしてみるのも学習がうまくいったか直観的にチェックするポイントになります。例えば、顔画像Xを学習する問題を考えてみましょう。事前分布P(Θ)をもとにP(X|Θ)からデータをサンプルしてみると初めはぐちゃぐちゃなノイズしか出てこなかったのが、学習された事後分布P(Θ|X)をもとにサンプルした場合は「顔っぽい」データがちゃんと生成できるようになっているはずです。これがうまくいかない場合は、モデルの表現能力に問題があるか、訓練データ数が少ないか、あるいは推論アルゴリズムの性能が十分でない可能性があります。

 

よく起こる遷移

・推論導出からモデルの構築(3→2)

2で構築したモデルが奇怪すぎて推論アルゴリズムがうまく導けない場合があります。
それでも無理やり追加の近似などを仮定してアルゴリズムをひねり出すこともできますが、多くの場合は性能がよくなりません。モデルの構築と推論の導出は分けられたプロセスとして認識すべきですが、実際は相互に行き来しながら一番良い組み合わせを探していくことになります。

・性能評価から推論の再導出(4→3)

アルゴリズムの導出はうまくいっているはずなのに、実データに対して思うような性能が出ない場合は、推論アルゴリズムを再検討してみる必要があります。具体的には、必要メモリ数があまりにも多すぎた場合などは、学習アルゴリズムをオンライン化(Stochastic Gradient Descentなど)してデータを小分けに出来るようにするなどが考えられます。他にも、例えばMCMCが遅すぎる場合は変分近似を使ってみる方が良いかもしれません。

・性能評価からモデルの構築(4→2)
実験結果を眺めることにより、「うまくモデル化できていない特徴」というのが見えてくる場合があります。この場合は2に戻って、新しい特徴をモデルに組み込むことが必要になってきます。例えば、データに明らかに時間的依存性があることがわかった場合は、モデルをマルコフモデルにするなどの手段が考えられます。

逆に、作ったモデルが複雑すぎるために推論アルゴリズムの性能が出ていない可能性もあります。こういう場合は、ちょっと悔しいですが、モデルから余計な要素を切り落としてシンプル化するのもアリなんじゃないかと思います。

・性能評価から課題の設定(4→1)
評価結果が思わしくない場合は、データの量や質に関する問題に着目するか、あるいは課題自体を検討しなおしてみるのが良いかもしれません。実際、4の段階にまで入ると、データに関する知識やアルゴリズムの計算コストなども最初の頃よりだいぶ頭に入ってきているはずなので、実運用に基づいた課題の再設定などは積極的に検討すべきなのではないかと思います。

 

- - -

以上、思いつくままにバァーッと書いてしまいましたが、少しでもベイズ学習あるいは確率モデルによる機械学習構築を検討される際に参考になればと思います。

 

今回の記事がよくわからん!という方には,次のような入門書もあります.

books.rakuten.co.jp

*1:他にもデータの圧縮、ノイズの除去なども確率モデルの得意とするところです。

*2:いやいや、深層学習とか認識系の課題であれば「データがどういうプロセスを経て認識されたのか」の方が正しいでしょ、とおっしゃる方もいるかもしれません。その場合は、人間が与えるラベルデータが「どのような認識的な処理過程を経て生成されたのか」をモデル化する、と考えれば、文中の言い方でも悪くない気がします。

*3:ところで「教師あり」というのはつまり、「予測したい値と同質と思われるデータを学習用に持っている」とした場合の機械学習の実装方法だと解釈できます。つまり、解きたい実課題自体が教師ありだとか教師なしだとか言うのはナンセンスで、アルゴリズムを開発する人間がその課題をどう捉えるかに依る、というのが正しいと思います。

*4:定量評価というものは、実現したい目標を理解しやすく数値に要約したもの、あるいは仮置きしたものに過ぎません。よっぽど単純な問題でない限り、絶対的な数値評価指標などというものは存在しないと思った方が良いです。

ベイズ混合モデルにおける近似推論③ ~崩壊型ギブスサンプリング~

 さて、今回は混合モデルに対する効率的な学習アルゴリズムとして、崩壊型ギブスサンプリング(Collapsed Gibbs Sampling)*1を紹介します。ベースとなるアイデア自体はギブスサンプリングそのものなのですが、標準的な方法と比べて種々の計算テクニックが必要になってくるのと、実際に推論精度が向上することが多いのでここで紹介したいと思います。 

また、今回の実験で使用したソースコードGithubにおいてあります。

GitHub - sammy-suyama/MLBlog: source codes used in MLBlog

 

[必要な知識]

下記をさらっとだけ確認しておくといいです。

 

1、崩壊型ギブスサンプリングのアイデア

基本的なアイデアとしては、対象の確率モデル(同時分布)から一部の確率変数をあらかじめ周辺化除去(marginalise out)しておき、より数の少ない確率変数をサンプルすることによってサンプリングの効率性を高めようとするものです*2

ここでは、崩壊型ギブスサンプリングの位置付けを明確するために、いくつかの異なるギブスサンプリングの手法を比較紹介します。

ある確率分布{p(z_1, z_2, z_3)}があり、この分布から{z_1},{z_2},{z_3}をすべて同時にサンプルするのが不可能であるとしましょう。この様な問題に対して、一般的なギブスサンプリングは次のように確率変数を1つ1つ別々にサンプリングするという作戦を取ります。

f:id:sammy-suyama:20160729175801p:plain

これは「直接同時にサンプルするのが難しいのであれば、他の値を固定したより簡易な条件付き分布から順次サンプルすればいい」というアイデアなのでしたね。

次に、ブロッキングギブスサンプリング(blocking Gibbs sampling)というのもあり、この場合はいくつかの変数をまとめてサンプリングします。

f:id:sammy-suyama:20160813140837p:plain

「すべて同時にサンプルするのは難しいが、{z_1},{z_2}の同時分布なら簡単に計算できる」というような場合ではこちらを使った方が断然性能が良いです。

さて、本題の崩壊型ギブスサンプリングでは上記2つの手法とは異なる作戦を取ります。この手法では、モデル中のいくつかの変数を周辺化除去することによって、より少ない数の変数だけをサンプルします。(Collapsed spaceでサンプルする、と呼ぶようです。)

f:id:sammy-suyama:20160813142357p:plain

f:id:sammy-suyama:20160813142409p:plain

最初の{z_3}に対する積分除去が解析的に出来ることと、それによって得られた同時分布{p(z_1,z_2)}からの交互サンプリングが簡単に行えることが適用できる条件です。単純なギブスサンプリングと比べて、そもそもサンプルする変数の種類が少ないので、より速く目的の分布からのサンプリングが得られることが期待できます。

一般的にはブロッキングギブスサンプリングや崩壊型ギブスサンプリングの方が、単純なギブスサンプリングより性能が良い傾向にあります。しかし単純ギブスサンプリグの方が1回あたりの計算が軽いので、問題によってはより早く所望の結果が得られる場合があります。実用上では、まず最初の2つの手法を検討してみて、それでも精度がイマイチだった場合には崩壊型ギブスサンプリングを試してみるのがオススメです。*3

 

2、混合モデルからパラメータを周辺化除去

まずは標準的な混合モデルを考えてみましょう。ここでは{x}{N}個の観測データの集合、{z}が各データに対する隠れ変数の集合、{\theta}{x}の分布を制御するパラメータ、{\pi}が隠れ変数の分布に対するパラメータです。f:id:sammy-suyama:20160813144049p:plain

{p(\theta)p(\pi)}がパラメータに対する事前分布です。一般的に混合モデルでは、{p(z)}はカテゴリカル分布を使います。{p(x|\theta, z)}{x}の発生をモデル化するための確率分布であり、今回は例としてポアソン分布を使いますが、用途次第ではガウス分布でも多項分布でも構いません。

さて、この式に対するグラフィカルモデルを次の様に表現してみることにします。

f:id:sammy-suyama:20160813151130p:plain

混合モデルに対する崩壊型ギブスサンプリングでは、パラメータをモデルからあらかじめ周辺化除去するのが一般的なやり方です。

f:id:sammy-suyama:20160813144102p:plain

こんな感じに積分除去すると、対応するグラフィカルモデルは次のようになります。一応これをここでは周辺化モデルって呼ぶことにします。

f:id:sammy-suyama:20160813151148p:plain

当然、積分除去された{\theta}{\pi}はもはや周辺化モデルには現れません。しかし、そのおかげでモデルが簡単になったかというとそうでもないようですね。隠れ変数{z}は元のモデルでは({\pi}が与えられたとき)独立性を保っていたもの、{\pi}積分除去された途端にすべての隠れ変数が依存関係を持つようになってしまいました。同様に、{x}{\theta}積分除去されたために、すべてのデータ点がお互いに依存するようになってしまいました*4 。このようなモデルから{z}をサンプリングする計算式を導くのが目標になります。

 

3、周辺化モデルからのサンプリング

さて、周辺化モデルは非常にタイトな変数依存関係を持ってしまってしまっているので、{z}を一度に同時にサンプルすることはできません。しかし{z_1}{z_2},・・・、{z_N}のように、1つずつサンプルすることが可能である場合があります。ある{z_n}を、{z_n}以外のサンプル{ z_{\backslash n} = \{ z_1, ..., z_{n-1}, z_{n+1}, ..., z_N \} }がすでに与えられた状態でサンプルできないか考えてみることにします。この条件付き分布は次のように計算することが出来ます。

f:id:sammy-suyama:20161103130033p:plain

1行目では、ただ単にベイズの定理の分母を無視したもので事後分布を書き直しただけです。2行目ではそれをバラバラに展開しました。真ん中の項は{x_n}を除いたグラフィカルモデルを考えれば、独立性から、

f:id:sammy-suyama:20161103164208p:plain

であることが示せるため、結果今サンプルしたい{z_n}とは無関係になるので3行目では除去されています。

さて、出来上がった最後の式をよく見てみると、目的の確率分布が{p(x_n |x_{\backslash n}, z_n, z_{\backslash n})}{p(z_n | z_{\backslash n})}の2つの分布に分解されることがわかりますね。これらの確率分布はどういう意味を持っているのでしょうか。

まず始めに{p(z_n | z_{\backslash n})}ですが、次のような{z_n}に関するある種の予測分布であると解釈することができます。

f:id:sammy-suyama:20161103130333p:plain

まず、すでにサンプルされていると仮定している{z_{\backslash n}}を観測データかのように扱うことで、{\pi}のある種の事後分布のようなもの{p(\pi|z_{\backslash n})}が計算できます。この事後分布は、次の様にベイズの定理を使って簡単に計算することができます。

f:id:sammy-suyama:20161103130508p:plain

今回は{p(z_{\backslash n}|\pi)}はカテゴリカル分布で、{p(\pi)}はディリクレ分布です。したがって、次のようなディリクレ分布事後分布が求まります。

f:id:sammy-suyama:20161103130630p:plain

さて、この{\pi}に関する事後分布を使って予測分布を計算してみることにします。結局、有限シンボルの離散分布であることがわかるので、結果はカテゴリカル分布として表現することができます。

f:id:sammy-suyama:20161103212604p:plain

同様にして、残る{p(x_n |x_{\backslash n}, z_n, z_{\backslash n})}の項も次の様に{x_n}に関する({z_n}の条件付き)予測分布になることがわかります。

f:id:sammy-suyama:20161103131603p:plain

次のセクションで解説しますが、ポアソン・ガンマモデルではこの積分は解析的に実行できます。*5

ところで{x_n}は実際にはデータとして与えられているので、より正確に言うとこの項は予測尤度とでも言った方が正しいかもしれません。肝心な点は、具体的な{z_n}を与えることによってこの尤度が評価できるという点です。{z_n}に対する{K}種類の実現値1つ1つに対して式{p(x_n |x_{\backslash n}, z_n, z_{\backslash n})p(z_n | z_{\backslash n})}を評価し、正規化してあげれば、{z_n}をサンプルするための離散分布が計算できることになります。

 

4、ポアソン・ガンマモデルにおけるベイズ推論

さて、ここまでで崩壊型ギブスサンプリングの説明はほぼ終わりなのですが、残された課題は次の条件付き予測尤度の計算ですね。

f:id:sammy-suyama:20161103131603p:plain

先ほどと同様、手順としてはまず右側の事後分布{p(\theta|x_{\backslash n},z_{\backslash n})}を計算し、その後で尤度関数{p(x_n | \theta, z_n)}と掛け合わせてから{\theta}積分除去します。

まず事後分布の計算からやってみましょう。今回は{D}次元のポアソン・ガンマモデルを仮定しているので{\theta}ポアソン分布のパラメータ{\lambda}になります。こちらもベイズの定理を使うと、

f:id:sammy-suyama:20161103134221p:plain

として計算をすることができ、事後分布は当然ガンマ分布になります。

f:id:sammy-suyama:20161103134239p:plain

さて、この事後分布を使って予測分布を計算してみましょう。幸い事後分布がガンマ分布のままなので、このまま解析的にパラメータ{\lambda}積分除去することができ、得られる分布は次のような負の二項分布(Negative Binomial Distribution)になります。

f:id:sammy-suyama:20161103213242p:plain

ここでは、負の二項分布の定義として次のような表現を使いました。

f:id:sammy-suyama:20161103135740p:plain

混合モデルにおいて崩壊型ギブスサンプリングが適用できる条件としては、観測モデルの事後分布と予測分布がともに解析的に実行できることです。今回のようなポアソン・ガンマモデル以外でも、共役の関係にある分布を選べばこれは必ず実行できます。  

 

5、動作確認実験

さて、今回導いたポアソン混合モデルにおける崩壊型ギブスサンプリングアルゴリズムをJuliaで実装し、動作確認をしてみます。ソースコードGithubにあります。

観測データ数N=1000、次元数D=2、クラスタ数K=8として混合モデルを学習させてみました。次の図は100回までのサンプル結果をアニメーションにしています。 

f:id:sammy-suyama:20161028181950g:plain

左下の方のクラスタはかなり密集していますが、なんとかうまく分離できているように見えますね。右図でサンプル回数が50回を超えてもまだパタパタしている箇所がありますが、それらのデータ点はクラスの所属が「あいまい」であることを示しています。

 

さて、せっかくですので前回導出した標準的なギブスサンプリングと簡単な性能比較をしてみます。下の図は横軸をサンプル回数、縦軸を最後のサンプルに対する尤度にしてグラフを描いたものです*6。GS(ギブスサンプリング)、Collapsed(崩壊型ギブスサンプリング)ともに5回ずつ実験しています。

f:id:sammy-suyama:20161028121122p:plain

傾向として、崩壊型ギブスサンプリングの方が少ない繰り返し回数で、より高い尤度に達しているようですね。最終的な到達点も崩壊型ギブスサンプリングの方が高い傾向があります。

ちなみに計算時間で比較すると、100回のサンプリングでギブスサンプリングが平均7.03秒、崩壊型ギブスサンプリングが平均7.15秒と、あまり差がないようです。 一般的には、崩壊型ギブスサンプリングにおける予測尤度の計算が遅くなる可能性がありますが、今回の場合は特にボトルネックにはなっていないようです。

 

6、まとめ

さて、今回はベイズポアソン混合モデルを題材にして、崩壊型ギブスサンプリングのアルゴリズムを導いてみました。今回の簡易実験が示す通り、標準的なギブスサンプリングアルゴリズムよりも性能が高くなる傾向があるようです。オススメとしては、まず標準のギブスサンプリングを導いてみて、その性能で満足いかないようであれば崩壊型ギブスサンプリングを導出してみるのが良いかと思います。ただし、解析的にパラメータを積分除去するためには、今回のポアソン分布とガンマ分布の例のように、観測モデルが共役の関係性を持っている必要があります。

同様のアイデアは時系列モデルである隠れマルコフモデル(Hidden Markov Model, HMM)、トピックモデルにおけるLatent Dirichlet Allocation(LDA)に適用されているほか、中華料理店過程(Chinese Restaurant Process, CRPインド料理店過程(Indian Buffet Process, IBP)などのベイジアンノンパラメトリクスの手法にも応用されています。

 

*1:参考: Machine Learning: A Probabilistic Perspective by Kevin Murphy | The MIT Press

*2:このことから、崩壊型ギブスサンプリングは周辺化ギブスサンプリングとも呼ばれることもあるようです。

*3:ただし、モデルによっては解析的にうまくアルゴリズムを導けない場合や、解析的な周辺化のために積分近似を行う場合もあります。

*4:これは一般的には{\int \prod_{n} p(x_n|\theta)p(\theta)d \theta \neq \prod_{n} \int p(x_n|\theta)p(\theta)d \theta}であるためです。

*5:他にもガウス・ウィシャートモデルのように、共役関係が成り立っていれば解析計算できます。

*6:尤度で性能を比較するのはあまり望ましくないですが、今回は完全に同じモデルからアルゴリズムを導いているので、尤度でもほぼ「良いクラス割り当て」を反映しているとしてしまってもいいんじゃないかと思います。