情報理論

科目基礎情報

学校 木更津工業高等専門学校 開講年度 2017
授業科目 情報理論
科目番号 0040 科目区分 専門 / 必修
授業形態 授業 単位の種別と単位数 履修単位: 3
開設学科 情報工学科 対象学年 5
開設期 通年 週時間数 3
教科書/教材 汐崎 陽著『情報・符号理論の基礎』国民科学社、1991年、2000円(+税)
担当教員 和田 州平

到達目標

1. 情報源の概念・定義を理解し、実際に情報量を計算することができる。
2. 情報源のモデルと情報源符号化について説明できる。
3. 誤り訂正処理の実現方法について説明できる。

ルーブリック

理想的な到達レベルの目安標準的な到達レベルの目安未到達レベルの目安
評価項目1計算した情報量について大小の比較や考察ができる。情報量の計算ができる。情報量の計算ができない。
評価項目2情報源符号化法についてシャノン・ハフマンの方法を用いて比較・考察できる。少なくともひとつの方法で情報源符号化が行える。情報源符号化の意味を理解しておらず符号化が行えない。
評価項目3複数の方法を用いて誤り訂正処理の実装を行える。少なくともひとつの方法を用いて、誤り訂正処理が実現できる。誤り訂正処理の概念を理解しておらず、実装ができない。

学科の到達目標項目との関係

教育方法等

概要:
情報通信技術を支える情報理論について学習する。
情報量の計算や情報源符号化、通信路符号化について学んだ上で、複数の誤り訂正処理の方法を解説する。
授業の進め方・方法:
授業は講義+演習形式で行う、講義中は集中して聴講し、演習中はグループでの議論に積極的に参加すること
注意点:
演習内容によっては、プログラミング言語(C言語等)を用いるため、PC等の操作に慣れておくこと

授業計画

授業内容 週ごとの到達目標
前期
1stQ
1週 ガイダンス 情報理論で学ぶ内容を理解し、概要を説明できる。
2週 情報源と情報量(1) 自己情報量と平均情報量の概念を理解し、計算ができる。
3週 情報源と情報量(2) 結合エントロピーの計算ができる。
4週 情報源と情報量(3) 条件付きエントロピーの計算ができる。
5週 情報源と情報量(4) 相互情報量の概念を理解し、計算ができる。
6週 情報源と情報量(5) 情報源の統計的性質について説明できる。
7週 応用問題 情報源に関する応用問題を解くことができる。
8週 前期中間試験
2ndQ
9週 情報源符号化(1) 与えられた符号の一意・瞬時復号可能性の判断ができる。
10週 情報源符号化(2) 与えられた符号の木を記述し、平均符号長を計算できる。
11週 情報源符号化(3) 情報源符号化定理について説明できる。
12週 情報源符号化(4) シャノンの符号化に基づいて符号化ができる。
13週 情報源符号化(5) ハフマンの符号化に基づいて符号化できる。
14週 応用問題 情報源符号化に関する応用問題を解くことができる。
15週 前期期末試験
16週 テスト返却と復習
後期
3rdQ
1週 通信路符号化(1) 通信路符号化の概念を説明できる。
2週 通信路符号化(2) 加法的2元通信路の通信路容量を計算できる。
3週 通信路符号化(3) 通信路符号化定理の概要を理解できる
4週 誤り検出訂正符号(1) 誤り訂正処理の概念を説明できる
5週 誤り検出訂正符号(2) 誤り訂正理論で使われる代数概念、特にガロア体およびその上のベクトル空間について理解し、計算できる
6週 誤り検出訂正符号(3) 線系符号を用いた符号化ができる。
7週 応用問題 通信路符号化、線形符号の応用問題を解くことができる。
8週 後期中間試験
4thQ
9週 誤り検出訂正符号(4) 巡回符号を用いた符号化ができる。
10週 誤り検出訂正符号(5) シフトレジスタを用いた割り算回路により符号化できる。
11週 誤り検出訂正符号(6) シフトレジスタを用いた誤り訂正処理により復号できる。
12週 誤り検出訂正符号(7) BCH符号を用いた符号化ができる。
13週 誤り検出訂正符号(8) BCH符号を用いた復号ができる。
14週 応用問題 巡回符号、特にBCH符号に関する応用問題を解くことができる。
15週 後期期末試験
16週 テスト返却と復習

評価割合

試験発表相互評価態度ポートフォリオその他合計
総合評価割合10000000100
前期中間試験250000025
前期末試験250000025
後期中間試験250000025
後期末試験250000025