機械と学習する

統計解析、機械学習について学習したことをまとめていきます

【統計検定準一級】統計学実践ワークブックの問題をゆるゆると解く#18

【概要】

  • 統計検定準一級対応 統計学実践ワークブックの問題を解いていくシリーズ
  • 第18回は8章「統計的推定の基礎」から1問

【目次】


はじめに

本シリーズでは、いろいろあってリハビリも兼ねて統計学実践ワークブックの問題を解いていきます。 統計検定を受けるかどうかは置いておいて。

今回は8章「統計的推定の基礎」から1問。

なお、問題の全文などは著作権の問題があるかと思って掲載してないです。わかりにくくてすまんですが、自分用なので。

心優しい方、間違いに気付いたら優しく教えてください。

【トップに戻る】

問8.2

問題

ポアソン分布に従って独立同一で取得されたn個の標本について。

f:id:hippy-hikky:20210520173221p:plain

(1) パラメータ\lambda最尤推定量を求めよ

最尤推定量ということで、対数尤度関数の微分を求めれば良いです。

f:id:hippy-hikky:20210520173628p:plain

(2) \lambdaに関するフィッシャー情報量を求めよ

フィッシャー情報量はn個のデータについて以下の式で定義されています。(こちらの記事参考文献3を参照)


\begin{align}
 I_n(\theta) = E[ \left\{ \frac{d}{d\theta}\log f_n(\mathbf{X} | \theta) \right\}^2 ]
\end{align}

対数尤度の微分の2乗の期待値です。

フィッシャー情報量I_n(\theta)の性質として、I_n(\theta)は標本一つの情報量のn倍という性質があります(以下のメモ)。また二乗の期待値の形を二階微分を使って表現することができます(以下のメモ)。これらの詳細は参考文献3などに詳しく書かれています。

これらを利用して、フィッシャー情報量I_n(\theta)は以下のメモの様に導出できます。

f:id:hippy-hikky:20210520174944p:plain

(3) \lambda最尤推定量が有効推定量であることを示せ

有効推定量とは、推定量の分散がフィッシャー情報量の逆数に等しくなることです(クラーメル・ラオの不等式の下限、こちらの記事参考文献3)。ということで、最尤推定\hat{\lambda}の分散を求めます。

f:id:hippy-hikky:20210520175448p:plain

ということで、有効推定量であることがわかりました。

(4) \lambda最尤推定量の漸近正規性、漸近有効性を示せ

最尤推定\hat{\lambda}は標本平均です。標本平均は中心極限定理から漸近的に正規分布\mathcal{N}(\mu, \frac{\sigma^2}{n})に収束します(参考文献2, 参考文献3)。なので、漸近正規性が言えます。

漸近分散がフィッシャー情報量の逆数になることもそのまま出てきていますので、漸近有効であることもわかりました。

f:id:hippy-hikky:20210520175531p:plain

【トップに戻る】

参考資料

【トップに戻る】