本記事はPRML「パターン認識と機械学習<上>第7版」(C.M.ビショップ著)の演習問題の基本問題・標準問題を解説したページになります。数式を打ち込む手間が面倒だったので,画像ファイルでアップしています。
また,数学的に厳密な議論はしていません。その代わり,初学者がつまづきやすいポイントを重点的にお伝えしていくつもりです。PRML解答/解説の目次もご覧ください。
スポンサーリンク
9.16
Mステップは最尤解を求めるフェーズですが,パラメータに制限式がある場合はラグランジュの未定乗数法を利用します。そして,ラグランジュ係数$\lambda$を求める操作には定石があります。総和が1となるパラメータを「(偏導関数)=0」の両辺にかけて,その後両辺の総和を取ることで,たいていの場合$\lambda$を求めることができます。