大学の専門科目っていきなり難易度上がりますよね…？情報系学部の方や今後情報系に進まれる方には必須科目である情報理論。
教養科目までの内容とは違っていきなり抽象的になります。そこで、この記事では初学者に向けて私が大学院勉強に用いた情報理論のための参考書を厳選してお伝えしたいと思います。
初学者が情報理論を独学するためにおすすめな参考書を特徴と合わせてまとめていきます。
＜STEP １＞甘利先生の情報理論
情報幾何学の創始者でもある甘利先生による名著。こちらの本は文庫本になっており、甘利先生が初学者に向けて情報理論のエッセンスを詰め込んだ１冊になっています。
所々に高度な数学が出てきますが、最初は読み飛ばしても大丈夫です。それよりも、情報量をはじめとした新しい概念が「どうしてそう定義されるのか」の理解に徹するようにしてください。本書は
というような姿勢で学ぶのではなく、
というような姿勢で読み進めていくとよいでしょう。
＜STEP ２＞はじめての情報理論
私が救われた１冊です。情報理論は出てくる概念こそ限られているものの、それらの実体がつかみにくく、理解するのに苦労する分野だと思います。本書は、情報理論の諸概念が非常にコンパクトにまとめられた１冊です。簡潔でありながら内容の抜け漏れが少ないことが特徴です。
演習問題もついているので、正直この１冊で定期試験レベルであれば突破できてしまうほどの充実度になっています。
＜STEP 3＞情報理論のエッセンス
上の「はじめての情報理論」と並び、初学者におすすめの１冊になっています。「はじめての情報理論」より問題演習の量が多く、諸定理を中心に解説が展開されています。
また説明パートに関しても
という方もいらっしゃるかと思うので、ぜひ両方に目を通してみてください。
＜STEP 4＞京大西田先生のHP
こちらのページは、京都大学の情報理論の授業で西田先生が使われているスライドとPDFが公開されています。これまでの３冊で詳しく補いきれなかった「n次の拡大と諸概念」「記憶のある情報源」が詳しく説明されています。
授業PDFらしく、学生が躓きやすいところは丁寧に説明されている資料です。諸定理の証明も非常に詳しく説明されており、優秀な方であれば本資料のみで情報理論の勉強は満足できてしまうでしょう。
＜STEP 5＞今井本
あまりにも有名すぎる１冊。多くの大学が本書を教科書に指定しています。定期試験レベルであれば＜STEP 3＞までの３冊で十分ですが、今井先生の本書まで読みこめば学部レベルの情報理論は修了したといっても過言ではないでしょう。
まとめ
いかがでしたでしょうか。情報理論の勉強にはステップがあります。
という方も少なくないのではないでしょうか。私の面倒を見てくださっている教授も仰っていたことですが、大学の勉強は分からないことにぶつかったら一歩下がってやり直すの繰り返しです。
特に情報理論では「分からない概念にぶつかる」頻度が多いように思います。ぜひみなさんには、この記事で紹介した本を使って効率的な勉強をしてほしいと思います。少しでもお力になれれば幸いです。
他のおすすめ参考書は、以下をご覧ください。
