多項分布とDirichlet分布 [ベイズ統計量におけるパラメーターの推定]
多項分布とDirichlet分布
多項分布とDirichlet分布の関係は、二項分布とベータ分布の関係に似ている。
二項分布を多次元に拡張した場合、次元を n 次元にした場合を考える。
前回同様に、パラメータが既知の場合のベイズ統計量と、パラメータが未知の場合のベイズ統計量を計算したいと思うが、まずは、分布の復習から。
★ 多項分布とは
1回の回の試行で互いに排反な事象の起こる確率がそれぞれ
とし、この試行を N 回独立に繰り返すときの起こる確率をそれぞれとする。
また、としたとき、その確率密度分布は、
となって、平均、分散、共分散は、
となる。
★ Dirichlet分布とは
ベータ分布の多次元化としてして、Dirichlet分布を考える。
をパラメーターを持つ確率変数とすると、その確率密度関数は、
となる。ここで は、ガンマ関数を表す。平均、分散、共分散は、