多重共線性の話 ～その7 階層ベイズ

階層ベイズ回帰モデル
定式化


ridge回帰の正則化と同様のことが起こっているため、ベイズモデルは多重共線性を気にしなくても問題なさそうである。

実際のデータでシミュレーションをすると。

【多重共線性が起こっているデータ（ランク落ちではない）】
結果は、シミュレーションデータを再現できているものの、x1,x2の係数の相関は、かなりつよい結果となっている


【完全多重共線性が起こっているデータ（ランク落ち）】
一般逆行列の場合と同様に、x1, x2で二等分した値になる