教材:
情報論I,瀧保夫,岩波書店
概要:
情報理論とは情報伝送(通信)の数学的理論である。特に、1948年にシャノンが発表した
確率論を基礎とした情報理論は、情報伝送のみならず現代の情報学の様々な分野で利用されている。
情報学を学ぶ学生が知っていて当然と思われるシャノンの情報理論について演習を交えて解説する。
学習・教育目標:
- 情報を測る様々な量(各種情報量)を理解する。
- 情報の効率的な表現方法について、その理論的限界と代表的手法を理解する。
- 情報の効率的な伝送方法について、その理論的限界と代表的手法を理解する。
- 実際の電気信号による伝送を行うための基本理論と代表的手法を理解する。
授業計画:
週 |
講義内容/理解すべき項目 |
第1週 |
情報とその表現
情報理論とは、情報とは何か、情報の種類、情報源の統計モデル、情報伝送系のモデル
|
第2〜3週 |
情報量
情報量、エントロピー、相互情報量、平均相互情報量、標本化と量子化
|
第4〜5週 |
情報圧縮のための符号化(情報源符号化)
マルコフ情報源、マルコフ情報源のエントロピー、情報源符号化、符号化の基本定理、ハフマンの符号化法
|
第6〜8週 |
信頼性向上のための符号化(通信路符号化)
通信路と通信路行列、伝送情報量とあいまい度、離散的通信路の通信路容量、通信路の符号化および復号化、通信路符号化の基本定理、パリティ検査符号
|
第9〜10週 |
情報伝送と信号
信号とスペクトル、標本化定理、通信方式の基礎
|
オフィスアワー:
椎名毅:月11:00〜12:00 3F814
山本幹雄:月11:00〜12:00 3F806
成績評価:
期末試験点数にレポート等による若干の平常点を加味して成績評価を行う。
|