本記事はPRML「パターン認識と機械学習＜上＞第７版」（C.M.ビショップ著）の演習問題の基本問題・標準問題を解説したページになります。数式を打ち込む手間が面倒だったので，画像ファイルでアップしています。
また，数学的に厳密な議論はしていません。その代わり，初学者がつまづきやすいポイントを重点的にお伝えしていくつもりです。目次はコチラの記事をご覧ください。
スポンサーリンク
1.33
条件付きエントロピー$H[y|x]$が$0$であるというのは，$x$から受け取る情報量が$0$だということを示しています。つまり，$x$から$y$は一意に決定されるという状況を示しています。
