情報理論E (内田 真人)
科目名: 情報理論E (01) Information Theory E
担当教員: 内田 真人 (ネットワークデザイン研究センター) m.uchida@ndrc.kyutech.ac.jp
対象分野科目 選択必修科目 2単位
2年 前期 集中講義等
授業の概要
情報理論は、情報をいかに数量化し工学的に利用するかを系統的に取り扱う理論であり、現在の情報通信技術の基礎となるものである。本授業では、情報源や通信路を定量的に扱う基本的な考え方や、情報源符号化・通信路符号化の基本的な仕組みについて講義する。
カリキュラムにおけるこの授業の位置付け
確率論の基礎知識を持っていることが必要であり、確率論の履修が望ましい。
授業項目 (授業計画)
- (1) 情報理論とその役割
- (2) 確率論の基礎知識
- (3) エントロピー
- (4) 相互情報量
- (5) 情報源のモデル
- (6) 符号化と復号化
- (7) 復号化可能性
- (8) 情報源符号化定理
- (9) ハフマン符号
- (10) 通信路のモデル
- (11) 通信路容量
- (12) 通信路符号化定理
- (13) 誤り検出・訂正の原理
- (14) パリティ検査符号
- (15) 期末試験
- (2) 確率論の基礎知識
授業の進め方
講義を中心として行い,適宜演習を行う.
授業の達成目標 (学習・教育目標との関連)
「(C-3-1) 有線や無線による通信の基礎理論や方法について理解している」を達成するために、情報量の概念を理解し、情報源符号化と通信路符号化についての基礎理論と各種符号化・復号化法を修得する。
具体的には次の項目を達成目標とする。
- (1) 情報量の概念を理解させる.
- (2) 情報源の概念と情報源符号化の原理を理解させる.
- (3) 通信路の概念と通信路符号化の原理を理解させる.
- (2) 情報源の概念と情報源符号化の原理を理解させる.
成績評価の基準および評価方法
上記の達成項目(1)から(3)については,期末試験で達成度を評価する.
キーワード
情報量、情報源符号化、通信路符号化
教科書
講義開始時に通知する.
参考書
講義の最初の時間に紹介する.