情報理論

【2020年版】元文系京大生がおすすめする情報理論の参考書

大学の専門科目っていきなり難易度上がりますよね…?情報系学部の方や今後情報系に進まれる方には必須科目である情報理論。

 

通信路容量ってなんだ…?
ハミング符号ってなに…?

 

教養科目までの内容とは違っていきなり抽象的になります。そこで、この記事では初学者に向けて私が大学院勉強に用いた情報理論のための参考書を厳選してお伝えしたいと思います。

 

★この記事の流れ★

初学者が情報理論を独学するためにおすすめな参考書を特徴と合わせてまとめていきます。

<STEP 1>甘利先生の情報理論

情報幾何学の創始者でもある甘利先生による名著。こちらの本は文庫本になっており、甘利先生が初学者に向けて情報理論のエッセンスを詰め込んだ1冊になっています。

所々に高度な数学が出てきますが、最初は読み飛ばしても大丈夫です。それよりも、情報量をはじめとした新しい概念が「どうしてそう定義されるのか」の理解に徹するようにしてください。本書は

 

最初から最後まで完ペキに理解するわ!

 

というような姿勢で学ぶのではなく、

 

情報理論の本質をつまみ食いしてやるぜ!

 

というような姿勢で読み進めていくとよいでしょう。

 

<STEP 2>はじめての情報理論

¥2,640
(2020/12/01 13:02:57時点 Amazon調べ-詳細)

私が救われた1冊です。情報理論は出てくる概念こそ限られているものの、それらの実体がつかみにくく、理解するのに苦労する分野だと思います。本書は、情報理論の諸概念が非常にコンパクトにまとめられた1冊です。簡潔でありながら内容の抜け漏れが少ないことが特徴です。

演習問題もついているので、正直この1冊で定期試験レベルであれば突破できてしまうほどの充実度になっています。

 

<STEP 3>情報理論のエッセンス

上の「はじめての情報理論」と並び、初学者におすすめの1冊になっています。「はじめての情報理論」より問題演習の量が多く、諸定理を中心に解説が展開されています

また説明パートに関しても

 

この本の方が性に合っているぜ!

 

という方もいらっしゃるかと思うので、ぜひ両方に目を通してみてください。

 

<STEP 4>京大西田先生のHP

京都大学西田先生の授業PDF

こちらのページは、京都大学の情報理論の授業で西田先生が使われているスライドとPDFが公開されています。これまでの3冊で詳しく補いきれなかった「n次の拡大と諸概念」「記憶のある情報源」が詳しく説明されています。

授業PDFらしく、学生が躓きやすいところは丁寧に説明されている資料です。諸定理の証明も非常に詳しく説明されており、優秀な方であれば本資料のみで情報理論の勉強は満足できてしまうでしょう。

 

<STEP 5>今井本

¥1,356
(2020/11/30 21:10:36時点 Amazon調べ-詳細)

あまりにも有名すぎる1冊。多くの大学が本書を教科書に指定しています。定期試験レベルであれば<STEP 3>までの3冊で十分ですが、今井先生の本書まで読みこめば学部レベルの情報理論は修了したといっても過言ではないでしょう。

本書の問題演習は非常に抽象的かつレベルの高いものになっているので、無理に取り組まなくても学部レベルであれば大丈夫です。

 

まとめ

いかがでしたでしょうか。情報理論の勉強にはステップがあります。

 

基礎知識もないままに今井先生の本に特攻して挫折した…。

 

という方も少なくないのではないでしょうか。私の面倒を見てくださっている教授も仰っていたことですが、大学の勉強は分からないことにぶつかったら一歩下がってやり直すの繰り返しです。

特に情報理論では「分からない概念にぶつかる」頻度が多いように思います。ぜひみなさんには、この記事で紹介した本を使って効率的な勉強をしてほしいと思います。少しでもお力になれれば幸いです。

他のおすすめ参考書は、以下をご覧ください。

【まとめページ】元文系京大生がおすすめする数学の参考書大学数学のおすすめ参考書を初学者向けにお伝えしていきます。定期テスト満点を目標に、レベル別に分けて解説していきます。名著を厳選しています。...
【まとめページ】元文系京大生がおすすめする情報学の参考書情報学のおすすめ参考書を初学者向けにお伝えしていきます。定期テスト満点を目標に、レベル別に分けて解説していきます。名著を厳選しています。...

COMMENT

メールアドレスが公開されることはありません。 * が付いている欄は必須項目です