到達目標
(ア)自己情報量，エントロピー，相互情報量，平均相互情報量の意味が理解でき，計算ができる．
(イ)情報源符号化の意味が理解でき，情報源符号化定理を証明できる．
(ウ)ハフマン符号を含む具体的な情報源符号化を行うことができる．
(エ)通信路符号化と通信路符号化定理の意味が理解できる．
(オ)簡単な離散的通信路について通信路容量の計算ができる．
(カ)巡回符号を含む具体的な通信路符号化を行うことができる．
(キ)マルコフ情報源の性質を理解し，そのエントロピーを算出できる．
ルーブリック
| 理想的な到達レベルの目安 | 最低限の到達レベルの目安(可) | 未到達レベルの目安 |
| 評価項目(ア) | 自己情報量，エントロピー，相互情報量，平均相互情報量の意味が理解でき，計算ができる． | 自己情報量，エントロピー，相互情報量，平均相互情報量の計算ができる． | 自己情報量，エントロピー，相互情報量，平均相互情報量の計算ができない． |
| 評価項目(イ) | 情報源符号化の意味を理解し，情報源符号化定理の証明と具体的な情報源符号化を行うことができる． | 具体的な情報源符号化を行うことができる． | 具体的な情報源符号化を行うことができない． |
| 評価項目(ウ) | 通信路のモデルを理解し、離散的通信路の通信路容量の計算と具体的な通信路符号化ができる． | 離散的通信路の通信路容量の計算と具体的な通信路符号化ができる． | 離散的通信路の通信路容量の計算と具体的な通信路符号化ができない． |
学科の到達目標項目との関係
教育方法等
概要:
デジタル情報伝送システム（通信システム）の理論的な基礎となっている、Shannonによって確立された情報理論の基礎を軸に、通信システムにおける情報の定量的な扱い方、情報の効率的表現方法・圧縮方式、雑音のある通信路における情報の伝送方式に加え、暗号化の方式についても取り上げる。
情報理論の基礎を理解し、基本的・実用的な符号化方法を習得することを目標とする。
授業の進め方・方法:
説明と演習、最後に課題または小テスト。
また、授業の予備知識として必要な内容に関する課題(予習課題)も出題する。
演習の時間内に指名することがあるので、いつ指名されてもよいように、出された演習問題を自力で確実に解くこと。
注意点:
対数関数を用いた計算を行うので、関数電卓を持参すること。
毎回の授業内容が確実に定着するように、ほぼ毎回小テストまたは課題の提出を義務付ける。提出物は次回までに採点して返却するので、各自で責任をもって管理し、いつでも参照できるように整理しておくこと。
選択必修の種別・旧カリ科目名
授業の属性・履修上の区分
授業計画
|
|
週 |
授業内容 |
週ごとの到達目標 |
| 前期 |
| 1stQ |
| 1週 |
情報理論とは、通信路のモデル、情報とは、情報量の定義と算出(予習：対数関数、確率とは、結合確率) |
情報量関数がなぜ対数関数で定義されているのかを理解し、具体的な情報量を求めることができる。
|
| 2週 |
情報源の定義、エントロピーの概念と性質、エントロピーの最大値、冗長度、シャノンの補助定理(予習：ロピタルの定理、確率、期待値) |
エントロピーの意味と性質を理解し、シャノンの補助定理を用いてエントロピーの最大値を証明できる。
|
| 3週 |
雑音のある通信路において伝達される情報量、条件付きエントロピー、相互情報量(予習：条件付き確率、ベイズの定理) |
様々なエントロピーの概念を理解し、計算できる。
|
| 4週 |
通信路のモデル、通信路行列、通信路容量、通信路符号化定理(予習：偏微分) |
通信路符号化定理を理解し、通信路容量を求めることができる。
|
| 5週 |
情報源符号化1(符号の分類と種類、符号の木、平均符号長、符号の効率と冗長度)(予習：シャノンの補助定理の確認) |
情報源符号の種類、表し方を理解し、平均符号長と符号の効率を求めることができる。
|
| 6週 |
情報源符号化2(クラフトの不等式、平均符号長の限界、シャノンの符号化法、)(予習：小数点以下の10進―2進変換) |
クラフトの不等式を証明できる。一位復号可能な符号の平均符号長には限界があることを理解する。シャノン符号を生成できる。
|
| 7週 |
情報源符号化3(ハフマンの符号化法、ブロックハフマン符号、情報源符号化定理)(予習：符号の木、確率、結合エントロピー) |
ハフマン符号を生成できる。情報源符号化定理を理解し、証明できる。
|
| 8週 |
データ圧縮(RL法、MH法、算術符号、スライド辞書法、動的辞書法)(予習：等比級数) |
実用的な情報源符号を生成できる。
|
| 2ndQ |
| 9週 |
通信路符号化1(パリティ検査符号、検査方程式、シンドローム、符号の効率)(予習：3変数以上の排他的論理和) |
最も基本的な通信路符号を作成し、受信符号を検査できる。また、符号の効率を求めることができる。
|
| 10週 |
通信路符号化2(検査行列、生成行列)(予習：行列のかけ算) |
行列を用いて通信路符号の生成と検査を行うことができる。
|
| 11週 |
通信路符号化3(ハミング符号)(予習：シンドロームと検査行列の関係の確認) |
ハミング符号を理解し、生成と検査を行うことができる。
|
| 12週 |
通信路符号化4(線形符号、ハミング距離、誤り訂正能力、限界距離復号法)(予習：「線形」の定義) |
誤りを訂正するうえで重要なハミング距離を理解し、具体的な誤り訂正能力を求めることができる。
|
| 13週 |
通信路符号化5(巡回符号)(予習：2を法とする計算、「既約」の定義) |
適切な生成多項式を用いて巡回符号を生成し、受信符号を検査することができる。
|
| 14週 |
RSA暗号(組立鍵、解読鍵、公開鍵方式)(予習：nを法とする計算、素数、互いに素) |
組立鍵と解読鍵を作成し、暗号化と復号ができる。また、公開鍵方式の安全性を説明できる。
|
| 15週 |
エントロピー復習とマルコフ過程(シャノン線図、定常確率と遷移確率、エントロピー)(予習：確率過程、条件付きエントロピー) |
各種エントロピーを駆使し、マルコフ情報源に適用しエントロピーを算出できる。
|
| 16週 |
|
|
モデルコアカリキュラムの学習内容と到達目標
| 分類 | 分野 | 学習内容 | 学習内容の到達目標 | 到達レベル | 授業週 |
評価割合
| 定期試験 | 課題 | 小テスト | 合計 |
| 総合評価割合 | 40 | 40 | 20 | 100 |
| 専門的能力 | 40 | 40 | 20 | 100 |