本記事はPRML「パターン認識と機械学習<上>第7版」(C.M.ビショップ著)の演習問題の基本問題・標準問題を解説したページになります。数式を打ち込む手間が面倒だったので,画像ファイルでアップしています。
また,数学的に厳密な議論はしていません。その代わり,初学者がつまづきやすいポイントを重点的にお伝えしていくつもりです。PRML解答/解説の目次もご覧ください。
スポンサーリンク
9.19
これまた良問。自分でEMアルゴリズムを組み立てる問題です。
まずは,完全データ集合の尤度関数を,潜在変数を噛ませる形で計算します。続いて,Eステップでは事後確率に関する潜在変数の期待値を計算します。Mステップでは,今回は制限式があるため,ラグランジュの未定乗数法を利用して最尤解を求めにいきます。
![](https://tips-memo.com/wp-content/uploads/2019/07/20190712152257-0001_page-0021.jpg)
![](https://tips-memo.com/wp-content/uploads/2019/07/20190712152257-0001_page-0022.jpg)