本記事はPRML「パターン認識と機械学習＜下＞第７版」（C.M.ビショップ著）の演習問題の基本問題・標準問題を解説したページになります。数式を打ち込む手間が面倒だったので，画像ファイルでアップしています。
また，数学的に厳密な議論はしていません。その代わり，初学者がつまづきやすいポイントを重点的にお伝えしていくつもりです。PRML解答/解説の目次もご覧ください。
スポンサーリンク
9.27
非常に悩ましかった問題です。うまい変形方法があるのかもしれませんが，単純な発想で$\Sigma_k^{(new)}$を$\Sigma_k^{(old)}$で表そうとすると，とても煩雑な式になってしまいます。そこで，$\boldsymbol{\mu}_k^{(new)}$を全て$\boldsymbol{\mu}_k^{(old)}$で置き換えてしまおうという大胆な近似をしてしまいました。
もう少し細かく近似する場合は，$\sum_{n=1}^N\gamma(z_{nk})^{(new)}$の項ごとに一度展開してから$\boldsymbol{\mu}_k^{(new)}=\boldsymbol{\mu}_k^{(new)}$と置くのがベターかなと思います。何か他に改善案が思いつく方は，ぜひご一報いただければと思います。
