機械と学習する

統計解析、機械学習について学習したことをまとめていきます

混合モデル

ベイズ推論により混合分布のパラメータ推論をやってみる 〜混合数の推論2〜

混合分布(混合モデル)はモデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。弊ブログでは数回にわたって、混合分布を使って遊んでみています(これが5記事目)。本記事では、これまで既知としていた混合数(クラスタ…

ベイズ推論により混合分布のパラメータ推論をやってみる 〜混合数の推論1〜

混合分布(混合モデル)はモデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。弊ブログでは数回にわたって、混合分布を使って遊んでみています(これが4記事目)。第4弾、第5弾では、これまで既知としていた混合数(クラ…

自動微分変分推論でガウス混合モデルのパラメータ推論 〜PyMC3を使った実装〜

変分推論の自動化アルゴリズムの一つ、ADVI(自動微分変分推論)を使ってガウス混合分布のパラメータ推論をやってみました。ADVIはPyMC3に実装されているので、モデルを定義すれば簡単に試すことができました。