本記事はPRML「パターン認識と機械学習<下>第7版」(C.M.ビショップ著)の演習問題の基本問題・標準問題を解説したページになります。数式を打ち込む手間が面倒だったので,画像ファイルでアップしています。
また,数学的に厳密な議論はしていません。その代わり,初学者がつまづきやすいポイントを重点的にお伝えしていくつもりです。PRML解答/解説の目次もご覧ください。
スポンサーリンク
10.25
混合要素数を増やしていくことで,$KL[p\|q]$がどうなるかを考えます。過小評価,過大評価に関しては,自分の中でもハッキリとした結論は出ていません。