ベイズモデリング
Juliaの練習として、ベイズ線形回帰モデルの推論を書いてみた。 解析解とGibbs samplingによる近似解を合わせて導出しました。また、雑ですが、Pythonとの比較もしました。
「ベイズ統計で実践モデリング」という書籍に掲載の事例をPythonで実装してみます。生で書くのではなく、PyMC、Pyroという二つのPPLを使ってを書いていきます。 今回は第4章のガウス分布を使った推論です。
「ベイズ統計で実践モデリング」という書籍に掲載の事例をPythonで実装してみます。生で書くのではなく、PyMC、Pyroという二つのPPLを使ってを書いていきます。個人的なPPLの練習です。
良いという噂のPyroを触ってみました。 Pyroを使って変分推論とMCMC(NUTS)でパラメータ推論するためのメモです。もっと良い書き方あれば教えてください。
混合分布(混合モデル)はモデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。弊ブログでは数回にわたって、混合分布を使って遊んでみています(これが5記事目)。本記事では、これまで既知としていた混合数(クラスタ…
混合分布(混合モデル)はモデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。弊ブログでは数回にわたって、混合分布を使って遊んでみています(これが4記事目)。第4弾、第5弾では、これまで既知としていた混合数(クラ…
8/8のPPLに関する勉強会でLTしてきたので、資料と簡単な解説をまとめます。
線形回帰(基底関数モデル)の推論をベイズ的に行い、予測分布、MAP推定値、最尤推定量をそれぞれ比較してみました。
変分推論の自動化アルゴリズムの一つ、ADVI(自動微分変分推論)を使ってガウス混合分布のパラメータ推論をやってみました。ADVIはPyMC3に実装されているので、モデルを定義すれば簡単に試すことができました。
混合分布(混合モデル)はモデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。数回にわたって、混合分布を使って遊んでみています。第3弾では、線形回帰モデルのパラメータ推論(ベイズ線形回帰)と線形回帰モデルを混合…
混合モデルは観測モデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。 これから数回にわたって、混合分布のパラメータ推論を近似ベイズ(MCMC)を使って遊んでみようと思います。第2弾の本記事では、ガウス混合分布のパ…
混合モデルは観測モデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。 これから数回にわたって、混合分布のパラメータ推論を近似ベイズ(MCMC)を使って遊んでみようと思います。第1弾の本記事では、混合分布の中でもよ…
ベイズ推論について実装して理解するシリーズ。今回は、変分推論を使って近似ベイズ推論を行ってみます。変分推論の適用例として、ガウス分布のパラメータ推論と線形回帰を近似推論してみました。
ベイズ推論について実装して理解するシリーズ。今回は、MCMCアルゴリズムの一つであるギブスサンプリングです。ギブスサンプリングによって線形回帰(ベイズ線形回帰)の近似推定をしてみました。
ベイズ推論について実装して理解するシリーズの第2弾その2。 今回は、MCMCアルゴリズムの一つであるメトロポリス法を実装してみます。
ベイズ推論について実装して理解するシリーズの第2弾。今回からサンプリングに基づいた近似ベイズ推論を扱います。本記事では、モンテカルロ積分と棄却サンプリングを実装してみます。
ベイズ推論について理解するために実装するシリーズの第2弾。今回は線形回帰のパラメータ推論(いわゆる学習)を確率推論するベイズ線形回帰を実装してみました。
「ベイズ深層学習」を理解するために実装しながら読んで行きます。 今回は、第3章の内容で、特に確率分布についてです。
機械学習とは何を学習するものなのかについて(自分なりに)整理したいと思います。
今更感ありますが、今回改めて「データ解析のための統計モデリング入門」を読みました。全3回の連載で各章にどのようなことが書かれているのかをまとめていきます。 第3回はGLMのベイズモデル化(第9章)と階層ベイズモデル(第10章)です。
今更感ありますが、今回改めて「データ解析のための統計モデリング入門」を読みました。全3回の連載で各章にどのようなことが書かれているのかをまとめていきます。 第2回は一般化線形混合モデル(第7章)からMCMC法(第8章)までです。
今更感ありますが、今回改めて「データ解析のための統計モデリング入門」を読みました。 読んだ感想としては、データ解析、統計モデリングの初学者は少なくともこれくらいは知っておいた方が良いと思います。ディープラーニングが流行りだし派手ですが、基本…