アカデミック

【第1章序論】PRML演習問題解答を全力で分かりやすく解説!<1.28>

本記事はPRML「パターン認識と機械学習<上>第7版」(C.M.ビショップ著)の演習問題の基本問題・標準問題を解説したページになります。数式を打ち込む手間が面倒だったので,画像ファイルでアップしています。

また,数学的に厳密な議論はしていません。その代わり,初学者がつまづきやすいポイントを重点的にお伝えしていくつもりです。目次はコチラの記事をご覧ください。

もし間違い等がございましたら,ご指摘いただけますと助かります。

1.28

エントロピーの性質を考察する問題です。エントロピーは$\log$を用いて定義されていることからも予想できる通り,$\log$と同じような性質を持つ一面もあります。

ABOUT ME
zuka
京都大学で機械学習を学んでいます。

POSTED COMMENT

  1. もっちー より:

    解答いつも参考にしています
    ありがとうございます

    質問があるのですが、3行目の
    -log2 p(x)p(y) = log2 p(x*y)
    の式変形はどのような過程で変形することができるのでしょうか?

    周囲に聞ける人もいないので、教えていただけないでしょうか。

    • zuka より:

      もっちー様

      ご指摘ありがとうございます!私の解答が間違えていました。
      修正致しましたので,ご確認いただけますでしょうか。
      問題文の記号設定がごちゃごちゃしているので,新しく設定してみました。
      示される式は異なりますが,本質的な操作は同じだと思っています。
      間違い等,ご指摘がございましたら,ご連絡いただけますと幸いです。

      zuka

    • もっちー より:

      わかりやすいです!
      解説ありがとうございました。

      引き続きPRMLの勉強をすすめるために読ませていただきます

もっちー へ返信する コメントをキャンセル

メールアドレスが公開されることはありません。 が付いている欄は必須項目です

※ Please enter your comments in Japanese to prevent spam.