|
授業科目： 情報理論（２単位） Information Theory |
対象：２学年 | |
|---|---|---|
| 第２学期 | 曜・時：火１・２ | 担当教官: 山本幹雄 |
週別授業計画
教材：
情報論I，瀧保夫，岩波書店(1700円+税)、およびweb上の配布資料
概要：
情報理論とは情報伝送（通信）の数学的理論である。特に、1948年にシャノンが発表した確率論を基礎とした情報理論は、情報伝送のみならず現代の情報学の様々な分野で利用されている。情報学を学ぶ学生が知っていて当然と思われるシャノンの情報理論について演習を交えて解説する。
学習・教育目標：
授業計画：
| 週 | 講義内容/理解すべき項目 |
|---|---|
| 第1週 | 情報とその表現
情報理論とは、情報とは何か、情報の種類、情報源の統計モデル、情報伝送系のモデル CDのしくみ等の身近な例を使って、本講義で学ぶ内容を解説する。 |
| 第2〜4週 | 情報量
情報量、エントロピー、相互情報量、平均相互情報量、標本化と量子化、標本化定理 |
| 第5〜7週 | 情報圧縮のための符号化（情報源符号化）
マルコフ情報源、マルコフ情報源のエントロピー、情報源符号化、符号化の基本定理、ハフマンの符号化法 |
| 第8〜10週 | 信頼性向上のための符号化（通信路符号化）
通信路と通信路行列、伝送情報量とあいまい度、離散的通信路の通信路容量、通信路の符号化および復号化、通信路符号化の基本定理、パリティ検査符号 |
参考書等：
本講義のほとんどすべての内容は以下の論文に書かれている。
Claude Elwood Shannon. 1948. A mathematical theory of communication, Bell System Technical Journal, pages 379-423, 623-656. (http://cm.bell-labs.com/cm/ms/what/shannonday/paper.html)
予備知識・前提条件：
確率論の知識を前提とする。
オフィスアワー：
月10:00〜12:00 3F806
成績評価：
レポート(30%)と小テストを含む試験(70%)により評価を行う。 毎回出席をとり、最終的な評価の際に考慮に入れる。
教官メールアドレス：