1. 各種情報量の意味を理解し，与えられた確率分布にしたがって情報量の計算ができる。
2. 情報源符号化における平均符号語長の下限について理解する。
3. 与えられた確率分布にしたがって，ハフマン符号が構成できる。
概要:
確率・統計で学習した確率分布や期待値の概念，情報数学で学習した集合の概念などを踏まえて，情報通信やデータ圧縮の基礎となる各種情報量，および，最適な符号化手法について理解する。また，通信路や通信路符号化についてもその概要を理解する。
授業の進め方・方法:
事前に公開された動画や教科書などを用いた予習を行ない，授業ではグループによる演習を行なう反転授業として実施する。授業では，理解度を確認する程度の演習問題を提出させる。提出された課題は教員が採点し，原則として次回の授業で返却して解説する。定期試験では原則として毎回の課題に類似した内容の問題を出題し，最終的な定着度を確認する。
注意点:
確率・統計や情報数学で学んだ内容を復習しておくこと。また，毎回授業の最後に演習問題を行う。
| 分類 | 分野 | 学習内容 | 学習内容の到達目標 | 到達レベル | 授業週 |
| 専門的能力 | 分野別の専門工学 | 情報系分野 | 情報数学・情報理論 | 集合に関する基本的な概念を理解し、集合演算を実行できる。 | 3 | 前1,前2,前3,前4,前5,前6,前7,前8,前9,前10,前11,前12,前13,前15,前16 |
| 集合の間の関係(関数)に関する基本的な概念を説明できる。 | 3 | 前6,前7,前15,前16 |
| 情報量の概念・定義を理解し、実際に計算することができる。 | 4 | 前2,前3,前4,前5,前9,前10,前11,前12,前13,前15,前16 |
| 情報源のモデルと情報源符号化について説明できる。 | 4 | 前6,前7,前8,前9,前10,前14,前15,前16 |
| 通信路のモデルと通信路符号化について説明できる。 | 4 | 前12,前13,前14,前15,前16 |