| 科目コード | 科 目 名 | |||||||||
| 8514 | 情報理論：Information Theory | |||||||||
| 教 員 名 | 玉城龍洋：TAMAKI Tatsuhiro | |||||||||
| 学年 | 単位・時間 | 科目区分 | 授業形態 | |||||||
| 1K | 2・100分 | 必修 | 講義・前期 | |||||||
| 授業概要 | 情報の定量的側面のみを取り上げて情報通信システムを抽象化した上で理論を展開し，情報量，情報源，伝達，雑音に関する講義を行う． | |||||||||
| 到 達 目 標 | 評 価 方 法 | 配分 | ||||||||
| （１）情報量とエントロピーの関係を説明できる． | 中間試験 | 40% | ||||||||
| （２）状態遷移を遷移確率行列などを用いて記述できる． | 期末試験 | 40% | ||||||||
| （３）誤り訂正符号の仕組みを説明できる． | レポート | 20% | ||||||||
| パソコン検定3級以上の取得 | ||||||||||
| 学習・教育目標 | B①② | JABEE基準１（１） | (c), (g) | |||||||
| 授 業 計 画 | 回 | 項 目 | 内 容 | |||||||
| イントロダクション | 情報理論の概要 | |||||||||
| 第１ | ||||||||||
| 確率論の基礎 | 集合論，条件付確率，ベイズの定理，確率分布，モーメント | |||||||||
| 第２ | ||||||||||
| 情報量の定義とエントロピー | 情報量による利得の表現とその意味，物理的エントロピーと平均情報量 | |||||||||
| 第３ | ||||||||||
| シャノンの基本不等式 | 結合エントロピーの意味 | |||||||||
| 第４ | ||||||||||
| 相互情報量 | 相互情報量の定義と性質 | |||||||||
| 第５ | ||||||||||
| エントロピー関数 | エントロピー関数 | |||||||||
| 第６ | ||||||||||
| シャノンの通信系モデルと遷移確率行列 | 情報源のモデル化，遷移確率行列による状態遷移の表現 | |||||||||
| 第７ | ||||||||||
| 通信路のモデル（１） | ２元対象通信路とその通信路容量 | |||||||||
| 第８ | ||||||||||
| 通信路のモデル（２） | ２元非対称通信路，２元消失通信路とそれらの通信路容量 | |||||||||
| 第９ | ||||||||||
| 通信路のモデル（３） | 通信路容量 | |||||||||
| 第１０ | ||||||||||
| 符号化の基礎知識 | 単純な符号化と冗長度および符号化の評価 | |||||||||
| 第１１ | ||||||||||
| 高効率の符号化 | シャノン・ファノ符号化，ハフマン符号化，シャノンの基本定理 | |||||||||
| 第１２ | ||||||||||
| 雑音のある場合の符号化 | 誤りの検出と訂正，ハミング距離の定義，パリティ検査法 | |||||||||
| 第１３ | ||||||||||
| 誤り訂正の可能な符号化 | ハミング符号，巡回符号 | |||||||||
| 第１４ | ||||||||||
| まとめ | 全体の学習事項のまとめを行う．また授業評価アンケートを行う． | |||||||||
| 第１５ | ||||||||||
| 関連科目 | ||||||||||
| 教 科 書 | わかりやすいディジタル情報理論(塩野充・オーム社) | |||||||||
| 参 考 書 | 情報理論の基礎と応用(中川聖一・近代科学社) | |||||||||
| 授業評価・理解度 | 最終回に授業評価アンケートを行う． | |||||||||
| 副担当教員 | ||||||||||
| 備 考 | パソコン検定3級以上の資格を取得しないと成績を評価しない． | |||||||||