機械と学習する

統計解析、機械学習について学習したことをまとめていきます

ベイズモデリング

Juliaを使ってギブスサンプリングで線形回帰(多項式回帰)する

Juliaの練習として、ベイズ線形回帰モデルの推論を書いてみた。 解析解とGibbs samplingによる近似解を合わせて導出しました。また、雑ですが、Pythonとの比較もしました。

「ベイズ統計で実践モデリング」をPythonで実装する #2

「ベイズ統計で実践モデリング」という書籍に掲載の事例をPythonで実装してみます。生で書くのではなく、PyMC、Pyroという二つのPPLを使ってを書いていきます。 今回は第4章のガウス分布を使った推論です。

「ベイズ統計で実践モデリング」をPythonで実装する #1

「ベイズ統計で実践モデリング」という書籍に掲載の事例をPythonで実装してみます。生で書くのではなく、PyMC、Pyroという二つのPPLを使ってを書いていきます。個人的なPPLの練習です。

Pyroを使った確率モデルの近似推論

良いという噂のPyroを触ってみました。 Pyroを使って変分推論とMCMC(NUTS)でパラメータ推論するためのメモです。もっと良い書き方あれば教えてください。

ベイズ推論により混合分布のパラメータ推論をやってみる 〜混合数の推論2〜

混合分布(混合モデル)はモデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。弊ブログでは数回にわたって、混合分布を使って遊んでみています(これが5記事目)。本記事では、これまで既知としていた混合数(クラスタ…

ベイズ推論により混合分布のパラメータ推論をやってみる 〜混合数の推論1〜

混合分布(混合モデル)はモデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。弊ブログでは数回にわたって、混合分布を使って遊んでみています(これが4記事目)。第4弾、第5弾では、これまで既知としていた混合数(クラ…

【LTネタ】PyMCを使えばちょっと複雑な確率モデルも怖くない

8/8のPPLに関する勉強会でLTしてきたので、資料と簡単な解説をまとめます。

ベイズ線型回帰:解析解の導出

線形回帰(基底関数モデル)の推論をベイズ的に行い、予測分布、MAP推定値、最尤推定量をそれぞれ比較してみました。

自動微分変分推論でガウス混合モデルのパラメータ推論 〜PyMC3を使った実装〜

変分推論の自動化アルゴリズムの一つ、ADVI(自動微分変分推論)を使ってガウス混合分布のパラメータ推論をやってみました。ADVIはPyMC3に実装されているので、モデルを定義すれば簡単に試すことができました。

ベイズ推論により混合分布のパラメータ推論をやってみる 〜線形回帰モデルの混合〜

混合分布(混合モデル)はモデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。数回にわたって、混合分布を使って遊んでみています。第3弾では、線形回帰モデルのパラメータ推論(ベイズ線形回帰)と線形回帰モデルを混合…

ベイズ推論により混合分布のパラメータ推論をやってみる 〜ガウス混合分布のパラメータ推論とクラスタリング〜

混合モデルは観測モデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。 これから数回にわたって、混合分布のパラメータ推論を近似ベイズ(MCMC)を使って遊んでみようと思います。第2弾の本記事では、ガウス混合分布のパ…

ベイズ推論により混合分布のパラメータ推論をやってみる 〜まずはガウス分布のパラメータ推論〜

混合モデルは観測モデルを潜在変数でスイッチする構造を持ったモデルであり、実用的な観点でも面白いです。 これから数回にわたって、混合分布のパラメータ推論を近似ベイズ(MCMC)を使って遊んでみようと思います。第1弾の本記事では、混合分布の中でもよ…

変分推論による近似ベイズ推論

ベイズ推論について実装して理解するシリーズ。今回は、変分推論を使って近似ベイズ推論を行ってみます。変分推論の適用例として、ガウス分布のパラメータ推論と線形回帰を近似推論してみました。

サンプリングによる近似ベイズ推論 その3(MCMC:ギブスサンプリング)

ベイズ推論について実装して理解するシリーズ。今回は、MCMCアルゴリズムの一つであるギブスサンプリングです。ギブスサンプリングによって線形回帰(ベイズ線形回帰)の近似推定をしてみました。

サンプリングによる近似ベイズ推論 その2(MCMC:メトロポリス法)

ベイズ推論について実装して理解するシリーズの第2弾その2。 今回は、MCMCアルゴリズムの一つであるメトロポリス法を実装してみます。

サンプリングによる近似ベイズ推論 その1(モンテカルロ積分, 棄却サンプリング)

ベイズ推論について実装して理解するシリーズの第2弾。今回からサンプリングに基づいた近似ベイズ推論を扱います。本記事では、モンテカルロ積分と棄却サンプリングを実装してみます。

ベイズ線形回帰(解析解)の実装

ベイズ推論について理解するために実装するシリーズの第2弾。今回は線形回帰のパラメータ推論(いわゆる学習)を確率推論するベイズ線形回帰を実装してみました。

様々な確率分布

「ベイズ深層学習」を理解するために実装しながら読んで行きます。 今回は、第3章の内容で、特に確率分布についてです。

機械学習は何を学習するのか(「ベイズ推論による機械学習入門」のメモ)

機械学習とは何を学習するものなのかについて(自分なりに)整理したいと思います。

【読後メモ】データ解析のための統計モデリング入門(その3)

今更感ありますが、今回改めて「データ解析のための統計モデリング入門」を読みました。全3回の連載で各章にどのようなことが書かれているのかをまとめていきます。 第3回はGLMのベイズモデル化(第9章)と階層ベイズモデル(第10章)です。

【読後メモ】データ解析のための統計モデリング入門(その2)

今更感ありますが、今回改めて「データ解析のための統計モデリング入門」を読みました。全3回の連載で各章にどのようなことが書かれているのかをまとめていきます。 第2回は一般化線形混合モデル(第7章)からMCMC法(第8章)までです。

【読後メモ】データ解析のための統計モデリング入門(その1)

今更感ありますが、今回改めて「データ解析のための統計モデリング入門」を読みました。 読んだ感想としては、データ解析、統計モデリングの初学者は少なくともこれくらいは知っておいた方が良いと思います。ディープラーニングが流行りだし派手ですが、基本…