本記事はPRML「パターン認識と機械学習<上>第7版」(C.M.ビショップ著)の演習問題の基本問題・標準問題を解説したページになります。数式を打ち込む手間が面倒だったので,画像ファイルでアップしています。
また,数学的に厳密な議論はしていません。その代わり,初学者がつまづきやすいポイントを重点的にお伝えしていくつもりです。PRML解答/解説の目次もご覧ください。
スポンサーリンク
7.19
(2021年8月10日追記)
foo様より本解答の誤植をご指摘いただきました。誠にありがとうございます。本文下のコメントをお読みいただくか,こちらのリンクからお読みいただけます。
本文中の答えとは異なる結果になりました。$\boldsymbol{w}^*$は(7.110)を$0$と置いたときの解ですので,対数尤度のチェインルールの中で対応する部分が$0$になります。あとは,残った部分を$\alpha_i$で偏微分すればOKです。前にも出てきましたが,$\ln(\det|\Sigma|)$の微分が少しややこしいですね。
途中式の-1/2 \ln |A|は正しくは1/2 \ln |A|かと思われます。演習7.10解答例の①式では正しい符号です。
また、-1/2 w^{T}Aw の中にもalpha_iの項がありますので、これを偏微分して残す必要があり、これを行うと(7.115)で必要な-1/2(w_i^*)^2が出てきます。
foo様
ご連絡ありがとうございます!
的確なご指摘助かります。
現在修正する時間が取れそうにないため,本文中にfoo様のコメントを参照するように誘導させていただきます。