変分推論の自動化アルゴリズムの一つ、ADVI(自動微分変分推論)を使ってガウス混合分布のパラメータ推論をやってみました。ADVIはPyMC3に実装されているので、モデルを定義すれば簡単に試すことができました。

混合分布（混合モデル）はモデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。数回にわたって、混合分布を使って遊んでみています。第3弾では、線形回帰モデルのパラメータ推論（ベイズ線形回帰）と線形回帰モデルを混合…

混合モデルは観測モデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。 これから数回にわたって、混合分布のパラメータ推論を近似ベイズ（MCMC）を使って遊んでみようと思います。第2弾の本記事では、ガウス混合分布のパ…

混合モデルは観測モデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。 これから数回にわたって、混合分布のパラメータ推論を近似ベイズ（MCMC）を使って遊んでみようと思います。第1弾の本記事では、混合分布の中でもよ…