情報理論

科目基礎情報

学校 岐阜工業高等専門学校 開講年度 平成28年度 (2016年度)
授業科目 情報理論
科目番号 0133 科目区分 専門 / 必修
授業形態 講義 単位の種別と単位数 学修単位: 1
開設学科 電気情報工学科 対象学年 4
開設期 後期 週時間数 1
教科書/教材 教科書: わかりやすいディジタル情報理論(塩野充,オーム社) ,参考書: 情報理論のエッセンス(平田廣則,昭晃堂),情報理論(三木成彦他,コロナ社)
担当教員 山田 博文

到達目標

 情報理論は,効率よくかつ正確に情報を伝達するための基礎となる学問であり,CDやインターネットなどに応用されている.本講義では,シャノンの通信路モデルにおける情報の概念と定量化,情報源のエントロピーと通信路容量,および符号化法について学ぶ。
 以下の項目を目標とする。

① 情報の概念と定量化について理解する。
② 情報源のモデルとエントロピーについて理解する。
③ 通信路のモデルと通信路容量について理解する。
④ 情報源符号化について理解する。
⑤ 通信路符号化について理解する。

ルーブリック

理想的な到達レベルの目安標準的な到達レベルの目安未到達レベルの目安
評価項目1情報の概念と定量化について説明でき,各種情報量を求めることが正確に(8割以上)できる。情報の概念と定量化について説明でき,各種情報量を求めることがほぼ正確に(6割以上)できる。情報の概念と定量化について説明できず,各種情報量を求めることができない。
評価項目2遷移確率行列や状態遷移図を使って情報源のモデルを表すことができ,情報源のエントロピーを求めることが正確に(8割以上)できる。遷移確率行列や状態遷移図を使って情報源のモデルを表すことができ,情報源のエントロピーを求めることがほぼ正確に(6割以上)できる。遷移確率行列や状態遷移図を使って情報源のモデルを表すことができず,情報源のエントロピーを求めることができない。
評価項目3通信路行列や通信路線図を使って通信路のモデルを表すことができ,通信路容量を求めることが8割以上)できる。通信路行列や通信路線図を使って通信路のモデルを表すことができ,通信路容量を求めることがほぼ正確に(6割以上)できる。通信路行列や通信路線図を使って通信路のモデルを表すことができず,通信路容量を求めることできない。
評価項目4情報源符号化について説明でき,様々な情報源符号化法で正確に(8割以上)符号化できる。情報源符号化について説明でき,様々な情報源符号化法でほぼ確に(6割以上)符号化できる。情報源符号化について説明できず,情報源符号化法で符号化できない。
評価項目5通信路符号化について説明でき,様々な通信路符号化法で正確に(8割以上)符号化できる。通信路符号化について説明でき,様々な通信路符号化法でほぼ確に(6割以上)符号化できる。通信路符号化について説明できず,通信路符号化法で符号化できない

学科の到達目標項目との関係

教育方法等

概要:
授業の進め方・方法:
 確率論についての知識が必要なので復習しておくこと。
注意点:

授業計画

授業内容 週ごとの到達目標
後期
3rdQ
1週 集合,試行と事象,確率
2週 条件付き確率,ベイズの定理,確率変数
3週 自己情報量とエントロピー
4週 結合エントロピーと条件付きエントロピー
5週 相互情報量
6週 情報源のモデルと情報源のエントロピー
7週 通信路のモデルと通信路容量1
8週 中間試験
4thQ
9週 通信路のモデルと通信路容量2
10週 符号化の基礎
11週 シャノンの第1基本定理
12週 シャノン・ファノ符号,ハフマン符号
13週 誤り検出と訂正
14週 長方形符号,ハミング符号,巡回符号
15週 期末試験の解答の解説と総まとめ
16週

モデルコアカリキュラムの学習内容と到達目標

分類分野学習内容学習内容の到達目標到達レベル授業週

評価割合

中間試験期末試験課題・小テスト合計
総合評価割合10010050250
得点10010050250