本記事はPRML「パターン認識と機械学習＜上＞第７版」（C.M.ビショップ著）の演習問題の基本問題・標準問題を解説したページになります。数式を打ち込む手間が面倒だったので，画像ファイルでアップしています。
また，数学的に厳密な議論はしていません。その代わり，初学者がつまづきやすいポイントを重点的にお伝えしていくつもりです。PRML解答/解説の目次もご覧ください。
スポンサーリンク
5.26
ニューラルネットワークの本質を突くような問題だと思います。新しい誤差関数が導入され，逆伝播方程式を導出します。その際，問題文で指示されているような関係式を求めておくことで，逆伝播を計算していくときに楽することができます。微分演算子を施すときに，何で微分しているのか，何が変数なのかに注目しなければハマってしまいます。
PRMLを読みながら、いつも拝見させて頂いています。ありがとうございます。
一点質問なのですが、２つ目の設問でのbeta_jの式展開中にa_jのx_iによる偏微分を、a_jのx_i’による偏微分とx_i’のx_iによる偏微分との積に変換されていますが、これはa_jのz_i’による偏微分とz_i’のx_iによる偏微分の積が正しいのではないでしょうか？外していたらすいません。
yohpapaさま
ご指摘ありがとうございます。
おっしゃる通りだと思いました。
こちらの旧ブログは保守運用が回っておらず修正することが難しいのですが，ご理解いただけますと幸いです。