Juliaの練習として、ベイズ線形回帰モデルの推論を書いてみた。 解析解とGibbs samplingによる近似解を合わせて導出しました。また、雑ですが、Pythonとの比較もしました。

良いという噂のPyroを触ってみました。 Pyroを使って変分推論とMCMC(NUTS)でパラメータ推論するためのメモです。もっと良い書き方あれば教えてください。

混合分布（混合モデル）はモデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。弊ブログでは数回にわたって、混合分布を使って遊んでみています（これが５記事目）。本記事では、これまで既知としていた混合数（クラスタ…

混合分布（混合モデル）はモデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。数回にわたって、混合分布を使って遊んでみています。第3弾では、線形回帰モデルのパラメータ推論（ベイズ線形回帰）と線形回帰モデルを混合…

混合モデルは観測モデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。 これから数回にわたって、混合分布のパラメータ推論を近似ベイズ（MCMC）を使って遊んでみようと思います。第2弾の本記事では、ガウス混合分布のパ…

混合モデルは観測モデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。 これから数回にわたって、混合分布のパラメータ推論を近似ベイズ（MCMC）を使って遊んでみようと思います。第1弾の本記事では、混合分布の中でもよ…

ベイズ推論について実装して理解するシリーズ。今回は、MCMCアルゴリズムの一つであるギブスサンプリングです。ギブスサンプリングによって線形回帰（ベイズ線形回帰）の近似推定をしてみました。

ベイズ推論について実装して理解するシリーズの第２弾その２。 今回は、MCMCアルゴリズムの一つであるメトロポリス法を実装してみます。

ベイズ推論について実装して理解するシリーズの第２弾。今回からサンプリングに基づいた近似ベイズ推論を扱います。本記事では、モンテカルロ積分と棄却サンプリングを実装してみます。