| 科目コード | 科 目 名 | |||||||||
| 3210 | 基礎情報理論 ：Introduction to Information Theory | |||||||||
| 教 員 名 | 岡村好庸 OKAMURA, Yoshinobu | |||||||||
| 学年 | 単位・時間 | 科目区分 | 授業形態 | 学修単位 | ||||||
| 5E | 1・１００分 | 必修 | 講義･前期 | ○ | ||||||
| 授業概要 | まず、情報量について学習する。 情報源符号化法の具体的な方法を学習し、どのように圧縮符号化がなされているかを理解する。 また、通信路符号化について一般理論と情報伝達量を講義する。 | |||||||||
| 到 達 目 標 | 評 価 方 法 | |||||||||
| (1)情報量の概念が理解できる。（２）情報圧縮の具体的方法を理解できる。 (３)情報の伝達の定量的扱いを理解できる。 | 評価方法は、①前期中間試験（25%）前期末試験（25%）②レポート５0% | |||||||||
| 学習・教育目標 | （B）① | JABEE基準１（１） | (d)－（１） －② | |||||||
| 授 業 計 画 | 回 | 項 目 | 内 容 | |||||||
| 概要説明、情報理論のための数学基礎１ | 集合および確率を復習する。 | |||||||||
| 第１ | ||||||||||
| 情報理論のための数学基礎２ | 結合確率、条件付確率および行列を復習する。 | |||||||||
| 第２ | ||||||||||
| 情報の量的扱い１ | 情報の伝達、情報量、平均情報量、シャノンの補助定理を学習する | |||||||||
| 第３ | ||||||||||
| 情報の量的扱い２ | 条件付確率と相互情報量の関係を理解する | |||||||||
| 第４ | ||||||||||
| 情報源とエントロピー１ | 記憶のない情報源とエントロピーを学習する | |||||||||
| 第５ | ||||||||||
| 情報源とエントロピー２ | 記憶のある情報源とエントロピーを学習する | |||||||||
| 第６ | ||||||||||
| 中間まとめ | 中間まとめとして試験を実施する。 | |||||||||
| 第７ | ||||||||||
| 情報源とエントロピー３ | 単純マルコフ情報源について理解する | |||||||||
| 第８ | ||||||||||
| 情報源符号化定理 | シャノンの情報源符号化定理を学習してエントロピーが平均符号長の下限を表すことを理解する。 | |||||||||
| 第９ | ||||||||||
| 情報源符号化法 | 情報源符号化法をハフマンブロック、ランレングスにつき具体的に学習する | |||||||||
| 第１０ | ||||||||||
| 通信路と情報量 | 通信路モデルと伝達情報量について学習する | |||||||||
| 第１１ | ||||||||||
| 通信路容量と通信路符号化定理 | シャノンの通信路符号化定理を学習する | |||||||||
| 第１２ | ||||||||||
| 記憶のない加法的通信路 | BSCにおける各種情報量と通信路容量を学習する | |||||||||
| 第１３ | ||||||||||
| 記憶のある加法的通信路 | 相関歩と加法的通信路との関係を理解して２元符号の平均量を導出する | |||||||||
| 第１４ | ||||||||||
| まとめ | 全体の学習事項のまとめを行う。また、授業評価アンケートをおこなう。 | |||||||||
| 第１５ | ||||||||||
| 関連科目 | 情報処理１、２、３ 、通信工学１ | |||||||||
| 教 科 書 | 自作テキスト | |||||||||
| 参 考 書 | 情報理論（昭晃堂）、マルチメディア処理入門（朝倉書店） | |||||||||
| 授業評価・理解度 | 最終回に授業評価アンケートを行う。 | |||||||||
| 副担当教員 | ||||||||||
| 備 考 | ||||||||||