#統計 WAICやLOOCVも計算してくれるベイズ統計のパッケージを使ったWAICやLOOCVの変種の計算は、多くの場合にWAICの誤用になっている疑いがあります。
本当は誰かが「WAIC警察」や「LOOCV警察」をやるべきかも。
本当は誰かが「WAIC警察」や「LOOCV警察」をやるべきかも。
#統計 Stanに代表されるMCMCのツールを使った計算では、所謂「階層ベイズモデル」になっているのが普通です。
その場合には、予測性能(汎化性能)を評価したい予測分布の正しいWAICやLOOCVの計算にはほとんどの場合に内部パラメータでの(数値)積分が必要なはずであり、結構面倒です。
その場合には、予測性能(汎化性能)を評価したい予測分布の正しいWAICやLOOCVの計算にはほとんどの場合に内部パラメータでの(数値)積分が必要なはずであり、結構面倒です。
#統計 Stanに与えるモデルの情報だけで、予測分布の定義は一意に決まらないので、予測分布に関する情報も欲しければ追加の情報をコンピュータに教えてあげる必要があります。
必要な数値積分をそのままクソ重くなることが多いはずなので、汎用のソフトを作るのは難しい問題だと思う。
必要な数値積分をそのままクソ重くなることが多いはずなので、汎用のソフトを作るのは難しい問題だと思う。
#統計 データがY_1,…,Y_nで、MCMCに渡したモデルが
z ～ p₃(・)
w_i ～ p₂(・|z)
Y_i ～ p₁(・|w_i)
i=1,…,n
で事後分布のサンプル z_j, w_{ij} (j=1,…,L)が得られたとしましょう。
多くの場合に、本当に扱いたい予測分布p*(y_{n+1})は～続く
z ～ p₃(・)
w_i ～ p₂(・|z)
Y_i ～ p₁(・|w_i)
i=1,…,n
で事後分布のサンプル z_j, w_{ij} (j=1,…,L)が得られたとしましょう。
多くの場合に、本当に扱いたい予測分布p*(y_{n+1})は～続く
#統計
p(y|z) := ∫p₁(y|w)p₂(w|z)dw,
p*(y_{n+1}) ≈ (1/L)Σ_{j=1}^L p(y_{n+1}|z_j)
で近似計算されます。p(y|z)が内部パラメータwの積分で定義されていることに注目！
続く
p(y|z) := ∫p₁(y|w)p₂(w|z)dw,
p*(y_{n+1}) ≈ (1/L)Σ_{j=1}^L p(y_{n+1}|z_j)
で近似計算されます。p(y|z)が内部パラメータwの積分で定義されていることに注目！
続く
#統計 既存のWAICやLOOCV(の変種)を計算してくれるパッケージは積分で定義されたp(y|z)を経由しない別の予測分布
p*(y_1,…,y_n) ≈ (1/L)Σ_{j=1}^L Π_{i=1}^n(p₁(y_i|w_{ij})p₂(w_{ij}|z_j))p₃(z_j)
のWAICやLOOCV(の変種)を計算する仕様になっていると思われます。
要注意！
p*(y_1,…,y_n) ≈ (1/L)Σ_{j=1}^L Π_{i=1}^n(p₁(y_i|w_{ij})p₂(w_{ij}|z_j))p₃(z_j)
のWAICやLOOCV(の変種)を計算する仕様になっていると思われます。
要注意！
• • •
Missing some Tweet in this thread? You can try to
force a refresh
