到達目標
□情報量の概念・定義を理解し、実際に計算することができる。
□情報量・エントロピーについて基本的な計算ができる。
□情報源のモデルと情報源符号化について説明できる。
□通信路のモデルと通信路符号化について説明できる。
□情報源・通信路モデルの基礎を理解することができる。
□基本的な符号化法について説明できる。
ルーブリック
| 理想的な到達レベルの目安 | 標準的な到達レベルの目安 | 未到達レベルの目安 |
| 評価項目1 | 情報量、エントロピーについての教科書演習問題程度が解ける。 | 情報量、エントロピーの説明ができ、基本的な計算ができる。 | 情報量、エントロピーの説明と基本の計算ができない。 |
| 評価項目2 | 情報源と通信路のモデルについて説明でき、計算ができる。 | 情報源と通信路のモデルについて説明できる。 | 情報源と通信路のモデルについて説明できない。 |
| 評価項目3 | 基礎的な符号化法について説明ができ、計算ができる。 | 基礎的な符号化法について説明ができる。 | 基礎的な符号化法について説明ができない。 |
学科の到達目標項目との関係
教育方法等
概要:
この講義では「情報とは何か」をキーワードに情報量を定義し、情報理論の基礎を学ぶ。具体的には情報と確率との関係、情報量とエントロピー、さらに符号理論の初歩まで学ぶ。
授業の進め方・方法:
黒板を用いた板書とプリントを使用して説明をします。
注意点:
この授業の内容は多くの発展的な情報工学分野の基礎となります。応用数学Iの教科書を手元に用意しておいてください。
授業の属性・履修上の区分
授業計画
|
|
週 |
授業内容 |
週ごとの到達目標 |
| 前期 |
| 1stQ |
| 1週 |
情報理論とは
|
情報と確率の関係
|
| 2週 |
情報量とエントロピー（１）
|
自己情報量
|
| 3週 |
情報量とエントロピー（２） |
平均情報量，最大エントロピー
|
| 4週 |
情報量とエントロピー（３） |
結合エントロピー
|
| 5週 |
情報量とエントロピー（４） |
条件付きエントロピー，シャノンの基本不等式
|
| 6週 |
情報量とエントロピー（５） |
相互情報量
|
| 7週 |
情報量とエントロピー（６） |
相互情報量とエントロピー関数
|
| 8週 |
中間試験 |
|
| 2ndQ |
| 9週 |
情報源と通信路（１） |
マルコフ情報源，遷移確率行列，状態遷移図
|
| 10週 |
情報源と通信路（２） |
エルゴード性，情報源の発生情報量
|
| 11週 |
情報源と通信路（３） |
通信路行列，通信路網，通信容量
|
| 12週 |
符号化（１） |
符号化と冗長度，一意的復号可能と瞬時復号可能，クラフトの不等式
|
| 13週 |
符号化（２） |
シャノン・ファノの符号化法，ハフマンの符号化法
|
| 14週 |
符号化（３） |
誤り検出と訂正，ハミング距離，ポリティ検査
|
| 15週 |
符号化（４） |
長方形符号，三角符号，ハミング符号
|
| 16週 |
定期試験 |
|
評価割合
| 試験 | 発表 | 相互評価 | 態度 | ポートフォリオ | その他 | 合計 |
| 総合評価割合 | 80 | 0 | 0 | 0 | 0 | 20 | 100 |
| 基礎的能力 | 40 | 0 | 0 | 0 | 0 | 20 | 60 |
| 専門的能力 | 40 | 0 | 0 | 0 | 0 | 0 | 40 |
| 分野横断的能力 | 0 | 0 | 0 | 0 | 0 | 0 | 0 |