本記事はPRML「パターン認識と機械学習<上>第7版」(C.M.ビショップ著)の演習問題の基本問題・標準問題を解説したページになります。数式を打ち込む手間が面倒だったので,画像ファイルでアップしています。
また,数学的に厳密な議論はしていません。その代わり,初学者がつまづきやすいポイントを重点的にお伝えしていくつもりです。目次はコチラの記事をご覧ください。
スポンサーリンク
1.31
同時エントロピーの上限を求める問題です。各変数が独立の方が,自由度が増してエントロピーが増大するイメージと一致しますね。
1-30をクリックすると1-31に飛んできます。リンクがおかしい?ようです。
maki様
毎度毎度ご指摘ありがとうございます。
助かります>< 修正いたしました!