本記事はPRML「パターン認識と機械学習<下>第7版」(C.M.ビショップ著)の演習問題の基本問題・標準問題を解説したページになります。数式を打ち込む手間が面倒だったので,画像ファイルでアップしています。
また,数学的に厳密な議論はしていません。その代わり,初学者がつまづきやすいポイントを重点的にお伝えしていくつもりです。PRML解答/解説の目次もご覧ください。
スポンサーリンク
10.4
ある分布を他の分布で近似しようという問題で,まさに変分法のエクササイズになっています。問題はシンプルで,ある分布とガウス分布のKLダイバージェンスが小さくなるようにパラメータを定めると,近似後のガウス分布のパラメータはある分布の標本から算出されるパラメータになることを確認するだけです。語弊はありますが,ある尺度を最小にするように形が不明な分布にガウス分布を近づけると,単純にある分布下において得られる標本値からパラメータを計算すればいいことが分かります。